泉源：流星在美国上空爆炸引发巨响作者： 许雅文：

人类药丸？
？？Anthropic为什么要搞AI不扩散条约？
？？

绷不住了，
，，，，，Anthropic 居然出来招呼大伙儿把手头的AI开发停一停。。。

昨天，
，，，，，他们直接发了篇文章，
，，，，，劝告大伙儿小心 AI，
，，，，，由于以后，
，，，，，它可能自己就能开发自己，
，，，，，不需要人了。。。。。。。。。

看到这个新闻，
，，，，，世超直接摊在桌子上，
，，，，，似乎看到核弹爆炸 （ bushi。。。。。。。。。

在文章最后，
，，，，，Anthropic 还呼吁各人别卷了，
，，，，，应该搞一套监视各人的机制。。。

这套机制应该能让这些牛逼的公司之间相互确认，
，，，，，确认所有人都躺平，
，，，，，而不是在暗地里偷偷卷着研究AI。。。

这个说法可谓是一石激起千层浪，
，，，，，帖子发出来不过半天，
，，，，，浏览量就干带到了 1000 多万。。。

世超也连忙去 A 社的官网拜读了一下这份报告，
，，，，，可是看完就发明有点差池味了。。。

简朴来说，
，，，，，它简直招呼慢点开发了，
，，，，，但想让各人慢点开发不太可能。。。。。。。。。

咱们把它重新来给各人捋捋。。。

这篇文章的问题是 “ When AI builds itself ”，
，，，，，当 AI 自我迭代时。。。

简朴来说，
，，，，，Anthropic 以为AI现在已经变的越来越牛逼，
，，，，，牛逼到足以自己给自己做纠正，
，，，，，自己给自己做开发。。。

2025 年 2 月的时间，
，，，，，他们的库里 9 成以上的代码照旧靠工程师手搓的，
，，，，，但当 Claude Code 宣布以后，
，，，，，阻止到今年 5 月，
，，，，，这个比例已经下降到了 2 成。。。

甚至有 Anthropic 的员工直接利索认可，
，，，，，说自己已经快五个月没写过代码了。。。

AI 写的代码除了数目一直变多之外，
，，，，，质量也变得越来越高。。。

下面这张图展示了 AI 面临四种差别难度使命时的完成率，
，，，，，可以看到这几个月以来，
，，，，，随着模子能力的一直提高，
，，，，， AI 完成种种难度使命的乐成率也在一直变高。。。

纵然是那种最难的，
，，，，，没有标准谜底的开放性问题，
，，，，，Claude 也有 70% 左右的概率能把它做完。。。

而这个概率在去年九月，
，，，，，照旧 20% 不到。。。

从黄色到蓝色划分是：特殊简朴的使命、通例使命、实质性使命、开放式问题

除此之外，
，，，，，Anthropic 内部的许多人都体现，
，，，，，现在，
，，，，，人类和 Claude 敲的代码，
，，，，，质量上照旧五五开，
，，，，，但一年，
，，，，，只需要一年后，
，，，，，阵势就会被彻底逆转，
，，，，，Claude 写出来的代码质量将周全逾越人类。。。

岂非，
，，，，，人类真药丸？
？？

对此，
，，，，，Anthropic 体现我特喵的也不知道，
，，，，，他们爽性给人类未来妄想了三种下场。。。

第一种下场是无事爆发，
，，，，，假设由于种种原因，
，，，，，今天的 AI 已经生长到顶端了，
，，，，，由于什么缺卡缺电，
，，，，，缺水缺算法啥的原因，
，，，，，AI 的未来已经嗝屁了。。。

虽然，
，，，，，Anthropic 以为这种未来不太可能爆发。。。

第二种假设则是以为 AI 的生长会继续量变，
，，，，，但累积不到质变的水平，
，，，，，人跟 AI 一起，
，，，，，造出清静可信的系统。。。

此时 AI 会肩负大部分重复事情，
，，，，，但审查和指挥权仍然握在人的手里，
，，，，，只不过是角色的转变。。？
？？雌鹄词粲谑歉雒簧洞笪侍獾暮孟鲁。。。

第三种就是开头所担心的那种了，
，，，，，AI 掌握了足够强盛的创立力，
，，，，，实现了完全的自动化迭代，
，，，，，

模子能力的提升中，
，，，，，算力成了唯一因素，
，，，，，人类或将不再主要。。。

在这个历程中，
，，，，，AI可能会变得彻底听话来帮人类好好干活，
，，，，，也可能会挣脱人类的限制彻底失控。。。再往后，
，，，，，就没人能够展望了。。。

以是才有了后面的呼吁，
，，，，，呼吁各人搞一套能相互监视，
，，，，，全员躺平的探索机制，
，，，，，让全天下加入到这件事儿中，
，，，，，来确保各人能随时给 AI 研究来踩一脚刹车。。。

咋说呢，
，，，，，世超看完的第一时间着实会感受它说的似乎有点原理，
，，，，，可是转念一想就感受差池啊。。。

Anthropic 虽然给各人说了三种可能的未来，
，，，，，但现实上，
，，，，，一是被他们否认的已往，
，，，，，二是咱正履历的现在，
，，，，，而三，
，，，，，才是 A 社真正体现担心的未来。。。与其说是三种可能，
，，，，，倒不如说是层层铺垫。。。

并且整篇文章看下来，
，，，，，许大都据都是他自己界说、自己收罗、自己诠释，
，，，，，甚至自己评价的。。。既是考生又是考官，
，，，，，效果上么，
，，，，，几多得打点折扣。。。

再者，
，，，，，这AI研发是你说暂停就能暂停的嘛？
？？这玩意又不是核能，
，，，，，搞个 “ 不扩散 ” 条约就能大伙儿一起来羁系了。。。

AI 这种有个数据中心就醒目的活，
，，，，，基础没啥步伐羁系吧？
？？

总不可让每家公司都相互之间开放所有的数据区，
，，，，，让各人相互之间能看到自己在拿显卡干啥吧？
？？

真要搞这么透明，
，，，，，建议 Anthropic 先学习一下怎么开源模子？
？？

否则这种话说出来属实是没啥说服力。。。

并且 Anthropic 这次提建议的时间还很玄妙，
，，，，，这家公司的作风可以说一直都是颇有争议。。。

做出牛逼模子的公司许多，
，，，，，可是风评能那么始终如一的就只有 A 社一家了。。。

翻开 A 社官网，
，，，，，看公司先容时，
，，，，，你能感受到它险些每个字都在向你强调清静。。。

你能翻到他们从产品到应用的全套清静治理步伐，
，，，，，甚至尚有给 Claude 单独撰写的清静宪法。。。

可是这些清静步伐真有用嘛？
？？只能说现真相形要重大的多。。。

前几年的时间，
，，，，，A 社就允许过，
，，，，，说除非公司提前确保了清静步伐准备稳当，
，，，，，否则不会最先训练新模子。。。

但很快他们就撤回了这个允许。。。。。。。。。

在今年 2 月，
，，，，，面临《时代》周刊的采访时，
，，，，，他们的首席科学家体现，
，，，，，这种单方面的允许并不对理，
，，，，，公司可能思量放弃。。。

说白了，
，，，，，清静和生长这俩词，
，，，，，在硅谷就像是个箩筐，
，，，，，那里需要那里装。。。

当理想主义碰上商业竞争，
，，，，，刺刀见红，
，，，，，所谓的清静往往也得给季度财报和市场份额让路。。。

好比之前疯狂渲染焦虑的 OpenAI 奥特曼，
，，，，，最近就悄悄改了口风，
，，，，，之前还说 AI 会取代大部分事情，
，，，，，但最近就改了说法，
，，，，，认可自己之前的判断有点纰漏了。。。

英伟达的老黄就更激进了，
，，，，，他在采访里体现，
，，，，，现在的许多言论极其科幻，
，，，，，戏剧化且毫无资助，
，，，，，不知道为什么有的 CEO 会想饰演天主，
，，，，，强调威胁来吓唬大伙儿。。。

咱虽然不知道他在点谁吧，
，，，，，但也能看出，
，，，，，纵然都在 AI 最前沿，
，，，，，各人的看法也是不尽相同的。。。

正所谓屁股决议脑壳，
，，，，，看他们的看法还得看他们所处的情形。。。

现实上，
，，，，，最近这一个俩个月，
，，，，，Anthropic 的日子过的算不上特殊好。。。

他们 3 号刚推出的 Claude 4.8 略显拉垮，
，，，，，再也没了一经的断档领先之感。。。

而隔邻的 OpenAI 更是三军出击，
，，，，，在编程和图像天生领域直接两着花，
，，，，，并且奥特曼天天在网上花式找理由重置 Codex 的额度，
，，，，，直接成磷器路开发者心中的超等大善人。。。

而 Anthropic 这边，
，，，，，为了能搞到更多的显卡，
，，，，，更多的算力来做出更强的模子，
，，，，，直接最先选择了提交 IPO 申请，
，，，，，最先做起了融资上市的准备。。。

一来一回的，
，，，，，因素越叠越多，
，，，，，就让这招呼看起来也就没那么有力了。。。

看到这，
，，，，，世超想起来今年去 Google I/O 的事了，
，，，，，其时 DeepMind 的 CEO，
，，，，，哈萨比斯在现场告诉各人：

现在我们正站在AI奇点时代的山麓。。。

效果咱还没往上爬两步呢，
，，，，，A 社就在前面把头扭过来，
，，，，，告诉你山上有风险，
，，，，，攀缘需审慎，
，，，，，为了各人的清静，
，，，，，我们照旧一起都别爬了吧。。。

倒也有点原理，
，，，，，事实这些大厂的顶尖研究员肯定能看到更多工具。。。

但几多像是漂亮而无用的空话。。。

由于众所周知，
，，，，，只要山在那儿，
，，，，，人是一定要登上去看看的。。。

撰文：风华 & 早起

编辑：早起 & 江江 & 面线

美编：素描

图片、资料泉源：

X，
，，，，，Anthropic，
，，，，，联合国，
，，，，，TIME，
，，，，，Youtube，
，，，，，部分图源网络