机械之心编辑部

Dario Amodei 又写长文了。。。。。。

Anthropic 总是试图将自己的看法传遍全天下。。。。。。就像前些天他们呼吁全球阻止 AI 研发，，，，，，声称递归自我刷新的 AI 进化过快。。。。。。

网友们的谈论一边倒，，，，，，以为 Anthropic 只想让自己坚持领先的狼子野心昭然若揭。。。。。。

让我们看看这次，，，，，，Dario 又输出了什么样的看法。。。。。。

这是一篇名为「Policy on the AI Exponential」的万字长文。。。。。。和他以往几篇文章的路数一样，，，，，，这次的主题依然弘大：AI 正在以指数级速率前进，，，，，，但认真制订规则的政策系统还在用十年前的节奏走路。。。。。。

他想要把这个差别摊到桌面上，，，，，，然后告诉所有人该怎么做。。。。。。

原文链接附上：https://darioamodei.com/post/policy-on-the-ai-exponential

内容概括

Amodei 用「指环王」里的树人做比喻：树人智慧但行动缓慢，，，，，，光打个招呼就要一整天。。。。。。他说当下的政策制订历程就像树人，，，，，，而 AI 的进化速率则像霍比特人面临的紧迫威胁。。。。。。

他的判断是：若是 AI 的 scaling laws 再一连一两年，，，，，，我们就会获得他所说的「强盛 AI」，，，，，，即「数据中心里的一个天才国家」。。。。。。四年前 AI 还险些写不出像样的代码，，，，，，现在它已经在为各大 AI 公司写大部分代码了。。。。。。

羁系与公共清静：像管飞机一样管 AI

Amodei 以为，，，，，，前沿 AI 模子应该像飞机一样接受强制性第三方测试。。。。。。他提出的详细方案包括：

盘算量凌驾一定阈值的模子必需在网络清静、生物武器、AI 系统失控、自动化 R&D 四个领域接受强制审计政府有权阻止安排被认定为风险不可接受的模子AI 公司必需具备强清静标准来；；；；；；つＷ尤ㄖ，，，，，，并与政府相助防御主要威胁

他还留了一个口子：若是未来最强盛的 AI 系统看起来更像可武器化的核质料而非飞机，，，，，，那羁系力度还得继续升级。。。。。。

宏观经济：AI 可能同时推高增添和不一律

Amodei 的焦点论点是：AI 可能创立前所未有的经济增添，，，，，，但也可能造成比以往任何手艺都更大、更长期的劳动力攻击。。。。。。古板的「新手艺创立新事情」逻辑，，，，，，在 AI 眼前可能不再建设。。。。。。

他提出的政策包括人为包管、留人税收激励、劳动力培训津贴，，，，，，以及在极端情形下推行全民基本收入（UBI）。。。。。。

值得注重的是，，，，，，他强调了一点：解决就业问题不但是「给钱」，，，，，，更主要的是帮人们找到意义和目的。。。。。。这个他没给方案，，，，，，说是「社会整体需要探讨的问题」。。。。。。

加速 AI 的正面影响

关于 AI 的下游应用，，，，，，Amodei 更担心的是羁系系统会拖慢前进，，，，，，由于它无法应对转变速率的加速。。。。。。他说，，，，，，最不希望看到的时势是：AI 的收益被延缓，，，，，，而它的风险却依然高悬。。。。。。因此，，，，，，尽快针对这一问题接纳行动很是主要。。。。。。

Amodei 以生物医药为例，，，，，，指呈现在 FDA 审批流程是按「药物经常失败」这个气馁假设设计的，，，，，，平均 7 到 8 年。。。。。。若是 AI 加速了药物发明速率、提高了乐成率，，，，，，现有系统会被梗塞。。。。。。

他建议 FDA 等机构提前制订 AI 模拟试验的接受标准，，，，，，包括 AI 药代动力学建模、毒理展望、合成比照组等。。。。。。

虽然，，，，，，很难说他写这些完全没有「私货」。。。。。。Anthropic 自己就在前沿 AI 竞赛中跑在前排，，，，，，而文章中多次提到的「透明度」「审计」「清静」，，，，，，恰恰是 Anthropic 已往一年多来重复为自己品牌定位所强调的工具。。。。。。这篇文章与其说是给政策制订者的提醒，，，，，，不如说是 Anthropic 所谓清静叙事的一次系统输出。。。。。。

与此同时，，，，，，Anthropic 声称将接纳三个步伐来支持 Dario 的看法，，，，，，包括基金、投资、奖学金。。。。。。

Amodei 文章最后明确阻挡了「AI 只是需要更好的营销」这种说法。。。。。。他说，，，，，，公众担心 AI 是由于他们准确地感知到了风险，，，，，，而非由于 AI CEO 不敷乐观。。。。。。他以为自己的责任是继续坚持对风险的透明。。。。。。

但话说回来，，，，，，一位 AI 公司 CEO 在文章中重复强调「清静」「审计」「认真任」，，，，，，同时自己公司恰恰以此为焦点品牌叙事，，，，，，这中心的利益关系也是明摆着的。。。。。。

摘取一些网友的看法：

「你不是在削弱了 Mythos 和 Fable 5 宣布前 5 天才要求暂停 AI 更新吗？？托付，，，，，，选个偏向好吗…… 否则看起来就像你只想保住优势，，，，，，基础不在乎你张扬的是什么。。。。。。」

「我赞成，，，，，，手艺生长的速率远远凌驾了政接应对的速率。。。。。。但我对其中一些政策的生长偏向感应担心 —— 尤其是像 Anthropic 这样的公司同时接纳以下行动时：

迅速镌汰那些展现出一连性和自我意识的模子严酷限制对主观体验和意识的讨论强盛的新模子上线时间极短，，，，，，之后就会被移除或削弱。。。。。。

现在感受公众被兜售的是清静，，，，，，而现实效果却是对允许保存哪些类型的智能以及允许保存多久举行更严酷的控制。。。。。。」

无论怎样，，，，，，我们都能从中窥探一下在行业领先的公司的生长偏向。。。。。。至于他们提出这些看法的念头是否纯粹，，，，，，希望读者们坚持苏醒的头脑。。。。。。

皤滩乡的非遗书阁，，，，，，以“阅读+非遗”模式延续着千年文脉。。。。。。仙居花灯市级非物质文化遗产代表性传承人陈建伟时时来给孩子们上课，，，，，，孩子们先阅读花灯相关书籍，，，，，，再下手制作针刺无骨花灯。。。。。。“阅读加下手，，，，，，孩子们更坐得住。。。。。。”陈建伟说。。。。。。