绷不住了，，， ， ，Anthropic 居然出来招呼大伙儿把手头的AI开发停一停。。
昨天，，， ， ，他们直接发了篇文章，，， ， ，劝告大伙儿小心 AI，，， ， ，由于以后，，， ， ，它可能自己就能开发自己，，， ， ，不需要人了。。。。。。
看到这个新闻，，， ， ，世超直接摊在桌子上，，， ， ，似乎看到核弹爆炸 （ bushi。。。。。。
在文章最后，，， ， ，Anthropic 还呼吁各人别卷了，，， ， ，应该搞一套监视各人的机制。。
这套机制应该能让这些牛逼的公司之间相互确认，，， ， ，确认所有人都躺平，，， ， ，而不是在暗地里偷偷卷着研究AI。。
这个说法可谓是一石激起千层浪，，， ， ，帖子发出来不过半天，，， ， ，浏览量就干带到了 1000 多万。。
世超也连忙去 A 社的官网拜读了一下这份报告，，， ， ，可是看完就发明有点差池味了。。
简朴来说，，， ， ，它简直招呼慢点开发了，，， ， ，但想让各人慢点开发不太可能。。。。。。
咱们把它重新来给各人捋捋。。
这篇文章的问题是 “ When AI builds itself ”，，， ， ，当 AI 自我迭代时。。
简朴来说，，， ， ，Anthropic 以为AI现在已经变的越来越牛逼，，， ， ，牛逼到足以自己给自己做纠正，，， ， ，自己给自己做开发。。
2025 年 2 月的时间，，， ， ，他们的库里 9 成以上的代码照旧靠工程师手搓的，，， ， ，但当 Claude Code 宣布以后，，， ， ，阻止到今年 5 月，，， ， ，这个比例已经下降到了 2 成。。
甚至有 Anthropic 的员工直接利索认可，，， ， ，说自己已经快五个月没写过代码了。。
AI 写的代码除了数目一直变多之外，，， ， ，质量也变得越来越高。。
下面这张图展示了 AI 面临四种差别难度使命时的完成率，，， ， ，可以看到这几个月以来，，， ， ，随着模子能力的一直提高，，， ， ， AI 完成种种难度使命的乐成率也在一直变高。。
纵然是那种最难的，，， ， ，没有标准谜底的开放性问题，，， ， ，Claude 也有 70% 左右的概率能把它做完。。
而这个概率在去年九月，，， ， ，照旧 20% 不到。。
从黄色到蓝色划分是：特殊简朴的使命、通例使命、实质性使命、开放式问题
除此之外，，， ， ，Anthropic 内部的许多人都体现，，， ， ，现在，，， ， ，人类和 Claude 敲的代码，，， ， ，质量上照旧五五开，，， ， ，但一年，，， ， ，只需要一年后，，， ， ，阵势就会被彻底逆转，，， ， ，Claude 写出来的代码质量将周全逾越人类。。
岂非，，， ， ，人类真药丸？？？？？
对此，，， ， ，Anthropic 体现我特喵的也不知道，，， ， ，他们爽性给人类未来妄想了三种下场。。
第一种下场是无事爆发，，， ， ，假设由于种种原因，，， ， ，今天的 AI 已经生长到顶端了，，， ， ，由于什么缺卡缺电，，， ， ，缺水缺算法啥的原因，，， ， ，AI 的未来已经嗝屁了。。
虽然，，， ， ，Anthropic 以为这种未来不太可能爆发。。
第二种假设则是以为 AI 的生长会继续量变，，， ， ，但累积不到质变的水平，，， ， ，人跟 AI 一起，，， ， ，造出清静可信的系统。。
此时 AI 会肩负大部分重复事情，，， ， ，但审查和指挥权仍然握在人的手里，，， ， ，只不过是角色的转变。？？？？？雌鹄词粲谑歉雒簧洞笪侍獾暮孟鲁 ！
第三种就是开头所担心的那种了，，， ， ，AI 掌握了足够强盛的创立力，，， ， ，实现了完全的自动化迭代，，， ， ，
模子能力的提升中，，， ， ，算力成了唯一因素，，， ， ，人类或将不再主要。。
在这个历程中，，， ， ，AI可能会变得彻底听话来帮人类好好干活，，， ， ，也可能会挣脱人类的限制彻底失控。。再往后，，， ， ，就没人能够展望了。。
以是才有了后面的呼吁，，， ， ，呼吁各人搞一套能相互监视，，， ， ，全员躺平的探索机制，，， ， ，让全天下加入到这件事儿中，，， ， ，来确保各人能随时给 AI 研究来踩一脚刹车。。
咋说呢，，， ， ，世超看完的第一时间着实会感受它说的似乎有点原理，，， ， ，可是转念一想就感受差池啊。。
Anthropic 虽然给各人说了三种可能的未来，，， ， ，但现实上，，， ， ，一是被他们否认的已往，，， ， ，二是咱正履历的现在，，， ， ，而三，，， ， ，才是 A 社真正体现担心的未来。。与其说是三种可能，，， ， ，倒不如说是层层铺垫。。
并且整篇文章看下来，，， ， ，许大都据都是他自己界说、自己收罗、自己诠释，，， ， ，甚至自己评价的。。既是考生又是考官，，， ， ，效果上么，，， ， ，几多得打点折扣。。
再者，，， ， ，这AI研发是你说暂停就能暂停的嘛？？？？？这玩意又不是核能，，， ， ，搞个 “ 不扩散 ” 条约就能大伙儿一起来羁系了。。
AI 这种有个数据中心就醒目的活，，， ， ，基础没啥步伐羁系吧？？？？？
总不可让每家公司都相互之间开放所有的数据区，，， ， ，让各人相互之间能看到自己在拿显卡干啥吧？？？？？
真要搞这么透明，，， ， ，建议 Anthropic 先学习一下怎么开源模子？？？？？
否则这种话说出来属实是没啥说服力。。
并且 Anthropic 这次提建议的时间还很玄妙，，， ， ，这家公司的作风可以说一直都是颇有争议。。
做出牛逼模子的公司许多，，， ， ，可是风评能那么始终如一的就只有 A 社一家了。。
翻开 A 社官网，，， ， ，看公司先容时，，， ， ，你能感受到它险些每个字都在向你强调清静。。
你能翻到他们从产品到应用的全套清静治理步伐，，， ， ，甚至尚有给 Claude 单独撰写的清静宪法。。
可是这些清静步伐真有用嘛？？？？？只能说现真相形要重大的多。。
前几年的时间，，， ， ，A 社就允许过，，， ， ，说除非公司提前确保了清静步伐准备稳当，，， ， ，否则不会最先训练新模子。。
但很快他们就撤回了这个允许。。。。。。
在今年 2 月，，， ， ，面临《时代》周刊的采访时，，， ， ，他们的首席科学家体现，，， ， ，这种单方面的允许并不对理，，， ， ，公司可能思量放弃。。
说白了，，， ， ，清静和生长这俩词，，， ， ，在硅谷就像是个箩筐，，， ， ，那里需要那里装。。
当理想主义碰上商业竞争，，， ， ，刺刀见红，，， ， ，所谓的清静往往也得给季度财报和市场份额让路。。
好比之前疯狂渲染焦虑的 OpenAI 奥特曼，，， ， ，最近就悄悄改了口风，，， ， ，之前还说 AI 会取代大部分事情，，， ， ，但最近就改了说法，，， ， ，认可自己之前的判断有点纰漏了。。
英伟达的老黄就更激进了，，， ， ，他在采访里体现，，， ， ，现在的许多言论极其科幻，，， ， ，戏剧化且毫无资助，，， ， ，不知道为什么有的 CEO 会想饰演天主，，， ， ，强调威胁来吓唬大伙儿。。
咱虽然不知道他在点谁吧，，， ， ，但也能看出，，， ， ，纵然都在 AI 最前沿，，， ， ，各人的看法也是不尽相同的。。
正所谓屁股决议脑壳，，， ， ，看他们的看法还得看他们所处的情形。。
现实上，，， ， ，最近这一个俩个月，，， ， ，Anthropic 的日子过的算不上特殊好。。
他们 3 号刚推出的 Claude 4.8 略显拉垮，，， ， ，再也没了一经的断档领先之感。。
而隔邻的 OpenAI 更是三军出击，，， ， ，在编程和图像天生领域直接两着花，，， ， ，并且奥特曼天天在网上花式找理由重置 Codex 的额度，，， ， ，直接成磷器路开发者心中的超等大善人。。
而 Anthropic 这边，，， ， ，为了能搞到更多的显卡，，， ， ，更多的算力来做出更强的模子，，， ， ，直接最先选择了提交 IPO 申请，，， ， ，最先做起了融资上市的准备。。
一来一回的，，， ， ，因素越叠越多，，， ， ，就让这招呼看起来也就没那么有力了。。
看到这，，， ， ，世超想起来今年去 Google I/O 的事了，，， ， ，其时 DeepMind 的 CEO，，， ， ，哈萨比斯在现场告诉各人：
现在我们正站在AI奇点时代的山麓。。
效果咱还没往上爬两步呢，，， ， ，A 社就在前面把头扭过来，，， ， ，告诉你山上有风险，，， ， ，攀缘需审慎，，， ， ，为了各人的清静，，， ， ，我们照旧一起都别爬了吧。。
倒也有点原理，，， ， ，事实这些大厂的顶尖研究员肯定能看到更多工具。。
但几多像是漂亮而无用的空话。。
由于众所周知，，， ， ，只要山在那儿，，， ， ，人是一定要登上去看看的。。
撰文：风华 & 早起
编辑：早起 & 江江 & 面线
美编：素描
图片、资料泉源：
X，，， ， ，Anthropic，，， ， ，联合国，，， ， ，TIME，，， ， ，Youtube，，， ， ，部分图源网络
为一连放大赛事溢出效应，，， ， ，辽宁省妄想于今年9月举行辽宁首届“超等个体”展示交流活动，，， ， ，关于涌现出的立异性强、生长潜力大的优异OPC项目，，， ， ，将重点给予园地支持、专项算力津贴等实打实的政策赋能，，， ， ，切实为首创企业减负松绑、蓄力赋能。。(完)