泉源：今日立夏作者： 朱信宏：

人类药丸？？？？
？Anthropic为什么要搞AI不扩散条约？？？？
？

绷不住了，，，，，，Anthropic 居然出来招呼大伙儿把手头的AI开发停一停。。。。。。

昨天，，，，，，他们直接发了篇文章，，，，，，劝告大伙儿小心 AI，，，，，，由于以后，，，，，，它可能自己就能开发自己，，，，，，不需要人了。。。。。。。。。。。。。。。。。。

看到这个新闻，，，，，，世超直接摊在桌子上，，，，，，似乎看到核弹爆炸 （ bushi。。。。。。。。。。。。。。。。。。

在文章最后，，，，，，Anthropic 还呼吁各人别卷了，，，，，，应该搞一套监视各人的机制。。。。。。

这套机制应该能让这些牛逼的公司之间相互确认，，，，，，确认所有人都躺平，，，，，，而不是在暗地里偷偷卷着研究AI。。。。。。

这个说法可谓是一石激起千层浪，，，，，，帖子发出来不过半天，，，，，，浏览量就干带到了 1000 多万。。。。。。

世超也连忙去 A 社的官网拜读了一下这份报告，，，，，，可是看完就发明有点差池味了。。。。。。

简朴来说，，，，，，它简直招呼慢点开发了，，，，，，但想让各人慢点开发不太可能。。。。。。。。。。。。。。。。。。

咱们把它重新来给各人捋捋。。。。。。

这篇文章的问题是 “ When AI builds itself ”，，，，，，当 AI 自我迭代时。。。。。。

简朴来说，，，，，，Anthropic 以为AI现在已经变的越来越牛逼，，，，，，牛逼到足以自己给自己做纠正，，，，，，自己给自己做开发。。。。。。

2025 年 2 月的时间，，，，，，他们的库里 9 成以上的代码照旧靠工程师手搓的，，，，，，但当 Claude Code 宣布以后，，，，，，阻止到今年 5 月，，，，，，这个比例已经下降到了 2 成。。。。。。

甚至有 Anthropic 的员工直接利索认可，，，，，，说自己已经快五个月没写过代码了。。。。。。

AI 写的代码除了数目一直变多之外，，，，，，质量也变得越来越高。。。。。。

下面这张图展示了 AI 面临四种差别难度使命时的完成率，，，，，，可以看到这几个月以来，，，，，，随着模子能力的一直提高，，，，，， AI 完成种种难度使命的乐成率也在一直变高。。。。。。

纵然是那种最难的，，，，，，没有标准谜底的开放性问题，，，，，，Claude 也有 70% 左右的概率能把它做完。。。。。。

而这个概率在去年九月，，，，，，照旧 20% 不到。。。。。。

从黄色到蓝色划分是：特殊简朴的使命、通例使命、实质性使命、开放式问题

除此之外，，，，，，Anthropic 内部的许多人都体现，，，，，，现在，，，，，，人类和 Claude 敲的代码，，，，，，质量上照旧五五开，，，，，，但一年，，，，，，只需要一年后，，，，，，阵势就会被彻底逆转，，，，，，Claude 写出来的代码质量将周全逾越人类。。。。。。

岂非，，，，，，人类真药丸？？？？
？

对此，，，，，，Anthropic 体现我特喵的也不知道，，，，，，他们爽性给人类未来妄想了三种下场。。。。。。

第一种下场是无事爆发，，，，，，假设由于种种原因，，，，，，今天的 AI 已经生长到顶端了，，，，，，由于什么缺卡缺电，，，，，，缺水缺算法啥的原因，，，，，，AI 的未来已经嗝屁了。。。。。。

虽然，，，，，，Anthropic 以为这种未来不太可能爆发。。。。。。

第二种假设则是以为 AI 的生长会继续量变，，，，，，但累积不到质变的水平，，，，，，人跟 AI 一起，，，，，，造出清静可信的系统。。。。。。

此时 AI 会肩负大部分重复事情，，，，，，但审查和指挥权仍然握在人的手里，，，，，，只不过是角色的转变。。。。。？？？？
？雌鹄词粲谑歉雒簧洞笪侍獾暮孟鲁。。。。。。

第三种就是开头所担心的那种了，，，，，，AI 掌握了足够强盛的创立力，，，，，，实现了完全的自动化迭代，，，，，，

模子能力的提升中，，，，，，算力成了唯一因素，，，，，，人类或将不再主要。。。。。。

在这个历程中，，，，，，AI可能会变得彻底听话来帮人类好好干活，，，，，，也可能会挣脱人类的限制彻底失控。。。。。。再往后，，，，，，就没人能够展望了。。。。。。

以是才有了后面的呼吁，，，，，，呼吁各人搞一套能相互监视，，，，，，全员躺平的探索机制，，，，，，让全天下加入到这件事儿中，，，，，，来确保各人能随时给 AI 研究来踩一脚刹车。。。。。。

咋说呢，，，，，，世超看完的第一时间着实会感受它说的似乎有点原理，，，，，，可是转念一想就感受差池啊。。。。。。

Anthropic 虽然给各人说了三种可能的未来，，，，，，但现实上，，，，，，一是被他们否认的已往，，，，，，二是咱正履历的现在，，，，，，而三，，，，，，才是 A 社真正体现担心的未来。。。。。。与其说是三种可能，，，，，，倒不如说是层层铺垫。。。。。。

并且整篇文章看下来，，，，，，许大都据都是他自己界说、自己收罗、自己诠释，，，，，，甚至自己评价的。。。。。。既是考生又是考官，，，，，，效果上么，，，，，，几多得打点折扣。。。。。。

再者，，，，，，这AI研发是你说暂停就能暂停的嘛？？？？
？这玩意又不是核能，，，，，，搞个 “ 不扩散 ” 条约就能大伙儿一起来羁系了。。。。。。

AI 这种有个数据中心就醒目的活，，，，，，基础没啥步伐羁系吧？？？？
？

总不可让每家公司都相互之间开放所有的数据区，，，，，，让各人相互之间能看到自己在拿显卡干啥吧？？？？
？

真要搞这么透明，，，，，，建议 Anthropic 先学习一下怎么开源模子？？？？
？

否则这种话说出来属实是没啥说服力。。。。。。

并且 Anthropic 这次提建议的时间还很玄妙，，，，，，这家公司的作风可以说一直都是颇有争议。。。。。。

做出牛逼模子的公司许多，，，，，，可是风评能那么始终如一的就只有 A 社一家了。。。。。。

翻开 A 社官网，，，，，，看公司先容时，，，，，，你能感受到它险些每个字都在向你强调清静。。。。。。

你能翻到他们从产品到应用的全套清静治理步伐，，，，，，甚至尚有给 Claude 单独撰写的清静宪法。。。。。。

可是这些清静步伐真有用嘛？？？？
？只能说现真相形要重大的多。。。。。。

前几年的时间，，，，，，A 社就允许过，，，，，，说除非公司提前确保了清静步伐准备稳当，，，，，，否则不会最先训练新模子。。。。。。

但很快他们就撤回了这个允许。。。。。。。。。。。。。。。。。。

在今年 2 月，，，，，，面临《时代》周刊的采访时，，，，，，他们的首席科学家体现，，，，，，这种单方面的允许并不对理，，，，，，公司可能思量放弃。。。。。。

说白了，，，，，，清静和生长这俩词，，，，，，在硅谷就像是个箩筐，，，，，，那里需要那里装。。。。。。

当理想主义碰上商业竞争，，，，，，刺刀见红，，，，，，所谓的清静往往也得给季度财报和市场份额让路。。。。。。

好比之前疯狂渲染焦虑的 OpenAI 奥特曼，，，，，，最近就悄悄改了口风，，，，，，之前还说 AI 会取代大部分事情，，，，，，但最近就改了说法，，，，，，认可自己之前的判断有点纰漏了。。。。。。

英伟达的老黄就更激进了，，，，，，他在采访里体现，，，，，，现在的许多言论极其科幻，，，，，，戏剧化且毫无资助，，，，，，不知道为什么有的 CEO 会想饰演天主，，，，，，强调威胁来吓唬大伙儿。。。。。。

咱虽然不知道他在点谁吧，，，，，，但也能看出，，，，，，纵然都在 AI 最前沿，，，，，，各人的看法也是不尽相同的。。。。。。

正所谓屁股决议脑壳，，，，，，看他们的看法还得看他们所处的情形。。。。。。

现实上，，，，，，最近这一个俩个月，，，，，，Anthropic 的日子过的算不上特殊好。。。。。。

他们 3 号刚推出的 Claude 4.8 略显拉垮，，，，，，再也没了一经的断档领先之感。。。。。。

而隔邻的 OpenAI 更是三军出击，，，，，，在编程和图像天生领域直接两着花，，，，，，并且奥特曼天天在网上花式找理由重置 Codex 的额度，，，，，，直接成磷器路开发者心中的超等大善人。。。。。。

而 Anthropic 这边，，，，，，为了能搞到更多的显卡，，，，，，更多的算力来做出更强的模子，，，，，，直接最先选择了提交 IPO 申请，，，，，，最先做起了融资上市的准备。。。。。。

一来一回的，，，，，，因素越叠越多，，，，，，就让这招呼看起来也就没那么有力了。。。。。。

看到这，，，，，，世超想起来今年去 Google I/O 的事了，，，，，，其时 DeepMind 的 CEO，，，，，，哈萨比斯在现场告诉各人：

现在我们正站在AI奇点时代的山麓。。。。。。

效果咱还没往上爬两步呢，，，，，，A 社就在前面把头扭过来，，，，，，告诉你山上有风险，，，，，，攀缘需审慎，，，，，，为了各人的清静，，，，，，我们照旧一起都别爬了吧。。。。。。

倒也有点原理，，，，，，事实这些大厂的顶尖研究员肯定能看到更多工具。。。。。。

但几多像是漂亮而无用的空话。。。。。。

由于众所周知，，，，，，只要山在那儿，，，，，，人是一定要登上去看看的。。。。。。

撰文：风华 & 早起

编辑：早起 & 江江 & 面线

美编：素描

图片、资料泉源：

X，，，，，，Anthropic，，，，，，联合国，，，，，，TIME，，，，，，Youtube，，，，，，部分图源网络