新智元报道
最强的AI太危险,,不可随便放出来。。。。。。
把最强的模子锁起来,,是眼下头部实验室的主流做法。。。。。。
今年的Claude Mythos、OpenAI的GPT-Rosalind,,都没有对公众开放,,只留给通过资格审核的机构客户。。。。。。
《时代》周刊把这称作AI行业的新常态:太强的能力,,先不宣布。。。。。。
在这套叙事里,,AI的危险永远是第一位的。。。。。。Anthropic的CEO Dario Amodei甚至果真讲过,,该给天下留一条退路:须要时放慢,,甚至暂停AI开发。。。。。。
这次小扎要突破的,,正是硅谷这一套把危险摆在第一位的叙事。。。。。。
在他看来,,越是强调危险,,就越会推出「只能交给少数人」的结论。。。。。。而这,,才是真正危险的地方。。。。。。
7月28日,,他在《华尔街日报》甩出一篇署名谈论:《AI的未来属于每个人》(The AI Future Is for Everyone)。。。。。。
文中,,他没止步于力挺开源,,而是抛出了开源背后更深的一个问题:
这个时代的决议性问题,,不是超等智能会不会泛起,,而是谁能用上它。。。。。。
是被少数机构攥在手里、只对几家开放,,照旧酿成一件人人都能用的工具???扎克伯格说,,这才是真正应该争论的地方。。。。。。
他要做的,,是把AI巨头的战场,,从「谁的模子最强」,,拉到「超等智能该由谁控制」。。。。。。
一封檄文
先向「末日论」开火
扎克伯格这篇文章里,,火力率先瞄准那些兜售「末日论」的偕行。。。。。。
他说,,许多正在开发AI的人,,言论里充满末日色彩,,这很希奇。。。。。。
他想欠亨:一个认定AI会祛除大部分事情、抹掉人类泰半价值的人,,为什么还要急着把这个未来造出来。。。。。。
更主要的是,,扎克伯格以为,,「AI危险到只有极端集中权力才清静」这套逻辑,,自己就很危险。。。。。。
回看历史,,指望掌握绝对权力的人足够开明、会仁慈地供养所有人,,这种例子历来没有过好效果。。。。。。
他阻挡的是「只有少数人控制自动化」
为了讲清晰「权力集中」的问题,,扎克伯格举了一个超等智能状师的例子。。。。。。
假设只有一个人请得起一位超等智能状师。。。。。。哪怕他理亏,,也能在法庭上占尽自制,,社会就会因此变得更糟。。。。。。
可若是人人都有一位超等智能状师呢???司法反而会比今天更公正、更高效。。。。。。
扎克伯格的结论是:当每个人都被赋能,,人们会自然地相互制衡,,也一起制衡大机构的权力。。。。。。
权力制衡,,才是清静真正的地基,,而不是把所有筹码押在「某个善良的超等智能」身上。。。。。。
他还增补道:想靠对齐一个善良的超等智能来解决所有社会问题,,行欠亨。。。。。。
人类不是简单文化,,价值观相互冲突、诉求各不相同,,没有哪一个超等智能能同时讨好所有人。。。。。。
任何一个「唯一的超等智能」,,都注定会牺牲或违反一部分人的价值观。。。。。。
有意思的是,,几个月前奥特曼说过险些一样的话:「一旦你见识过AGI,,你就再也忘不掉了」,,那种「非要成为控制AGI的谁人人」的念头最危险,,唯一的出路是「不让任何人独吞这枚魔戒」。。。。。。
阻挡权力集中,,正在成为硅谷的一种共识。。。。。。
扎克伯格给出的是一套三段式主张:
以个人赋能作为昌盛之源,,以「发明」而非「自动化」作为超等智能的主要用途,,以「权力制衡」作为清静的地基。。。。。。
其中「发明」是他乐观的底气。。。。。。
在他看来,,早期AI只能回覆问题、干点例行活儿,,但很快它会帮人发明新知识:从研发治病的新药,,到找到把生意做大的新路子。。。。。。
你一天能问的问题有限,,它能替你发明的工具却没有上限。。。。。。
关于就业,,扎克伯格真正担心的不是AI自动化自己,,他小心的是自动化的开关只掌握在少少数人手里。。。。。。
因此,,他重复强调平衡:AI既可以是替换人的自动化工具,,也可以是帮人扩展手艺、开公司的赋能工具。。。。。。
天平一旦偏向自动化,,对就业和经济的攻击可能是负面的;;;;;;但只要超等智能被普遍分发,,他相信未来的事情会更多,,而不是更少。。。。。。
他的理由是:创业不必再先融一大笔钱,,门槛大幅降低。。。。。。经济会因此更有「创业气质」,,更多人在小公司事情,,而不是挤进大厂。。。。。。
「人人可用」
不即是「所有开源」
扎克伯格并没有要求把超等智能所有开源。。。。。。
早在2025年那篇《个人超等智能》(Personal Superintelligence)宣言里,,他已经明确写道:面临新的清静风险,,Meta会「审慎决议哪些能力适合开源」,,生物风险这类还需要政府和机构之间更多协调。。。。。。
2025年7月30日,,扎克伯格在《个人超等智能》一文中写道,,在只管普遍分享超等智能盈利的同时,,会审慎决议哪些能力适合开源。。。。。。
他在《华尔街日报》这篇文中提到的「谁能获得、用上它」,,说的是会见权,,不是执法意义上的「谁能拥有」,,更不是「把所有能力都开源」。。。。。。
因此,,Meta的真实蹊径是,,「尽可能扩大个人的会见权,,同时给最危险的能力留一道宣布闸门」,,而不是「一股脑全开源」。。。。。。
理想主义背后
是Meta的最优解
小扎的理想主义,,虽然也站在Meta的态度上。。。。。。
跟OpenAI这些闭源大厂差别,,Meta不靠卖模子API赚钱,,它的命根子是几十亿用户的消耗级产品和分发网络。。。。。。
早在2024年那封《开源AI才是前进之路》(Open Source AI Is the Path Forward)里,,扎克伯格就把话挑明晰:开放Llama不会像闭源公司那样直接砍掉Meta的收入,,反而能帮它建起一个不被敌手卡脖子的生态。。。。。。
2024年7月,,扎克伯格在《开源AI才是前进之路》一文中,,枚举开发者为何需要开放模子:不被简单闭源厂商锁死,,开源能撑起一个可自由迁徙的普遍生态。。。。。。
以是「人人可用」既是他描绘的理想,,也是最贴合Meta商业位置的一步棋。。。。。。
这也是Meta一连三年开源叙事的又一次加码:
2024年,,他借Linux昔时逆袭闭源Unix的历史,,论证开放模子为什么更清静、更有利于立异;;;;;;
2025年,,他抛出「个人超等智能」,,把Meta的蹊径和「集中控制、自动化掉所有有价值事情」的蹊径划清界线;;;;;;
这一次,,他把这套主张提高到了AI权力集中、就业结构、创业时机以及社会制度的高度。。。。。。
一个CEO的果真态度,,总 是和他背后 的公司高度契合。。。。。。
卖「清静」和API的Anthropic自然更审慎,,靠分发用饭的Meta自然更开放:每家的开放度,,险些都能从「它靠什么赚钱」倒推出来。。。。。。
微软CEO纳德拉特意为小扎这篇文章点赞,,赞美它是一篇好文章,,说各人该一起建一个「赋能个人和组织的前沿生态」。。。。。。
虽然,,他认可的只是这个偏向,,不即是微软已经认同Meta的所有开放权重政策。。。。。。
但有一点已经变了:这场AI巨头的竞赛,,以前比的是谁的模子更强,,现在争的是超等智能来了之后,,由谁来定规则。。。。。。
扎克伯格在X上说,,接下来还会宣布更多关于超等智能天下的「起劲愿景」。。。。。。
但他这篇文章真正抛出的问题,,也留给了我们每一个人:
当超等智能真正降临,,它究竟归谁???
参考资料:
https://x.com/finkd/status/2082160210399948869 https://www.wsj.com/opinion/the-ai-future-is-for-everyone-a0c24e20
https://www.meta.com/superintelligence/
https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/
编辑:元宇