谷歌谋害「焊死」Gemini!神秘芯片曝光,,,,,,能效碾压TPU十倍
新智元报道
一醒觉来,,,,,,谷歌突然就掏出了一张王炸!
据The Information独家爆料,,,,,,谷歌正在研发一款代号「Frozen v2」的神秘服务器芯片——把Gemini模子的部分底层架构,,,,,,永世蚀刻进硅片。。。
不是跑在芯片上,,,,,,是长在芯片里。。。
加入项目的谷歌员工预计,,,,,,按每瓦特能处理的Token数目算,,,,,,这款芯片将比谷歌最新一代TPU高效6到10倍。。。安排时间,,,,,,最快2028年。。。
新闻一出,,,,,,Alphabet股价周一应声上涨3.7%,,,,,,一扫前几周的阴霾。。。
「冻结」一个模子
Frozen这个名字,,,,,,就是字面意思:把模子「冻」进硅片。。。
这事有多激进??不管是英伟达GPU照旧谷歌TPU,,,,,,实质上都是通用芯片——什么模子都能跑。。。
这听起来很无邪,,,,,,但价钱也很大:芯片在运行时必需做海量的实时决议,,,,,,一直地搬运数据,,,,,,重复盘问该往哪走、该怎么算。。。
就像一个什么菜都能做的后厨,,,,,,每做一道菜都得现翻菜谱、现找工具、现调火候。。。效率可想而知。。。
Frozen v2则只为Gemini一个模子而生。。。
它把针对Gemini的要害决议路径直接内建进电路——芯片不必再「想」该怎么走,,,,,,由于路已经浇铸在硅片里了。。。
要走的方法更少,,,,,,要搬的数据更少,,,,,,要做的决议更少。。。相当于给一道菜专门砌了一个灶台,,,,,,灶眼巨细、锅具位置、火候档位,,,,,,所有量身定制。。。
省下来的每一步冗余,,,,,,都酿成实打实的能效。。。
着实,,,,,,这个想法早有前身。。。最初的Frozen芯片由Google DeepMind首席科学家Jeff Dean主导,,,,,,思绪更离谱:直接把模子权重烧进芯片。。。
权重是什么??就是决议模子怎么回覆问题的那套焦点参数。。。
但谁人方案被弃捐了——一旦权重烧死,,,,,,芯片就只能服务某个特定版本的Gemini,,,,,,模子一更新,,,,,,芯片就报废,,,,,,生命周期短得离谱。。。
Frozen v2是折中版:不烧权重,,,,,,只固化架构。。。底层的盘算蓝图刻死,,,,,,但权重还能更新。。。
这意味着只要Gemini的架构不大改,,,,,,芯片就能一直用,,,,,,新版本的参数照样灌得进去。。。
不过,,,,,,谷歌仍在内部权衡,,,,,,究竟把几多工具锁进硅片——锁得越多,,,,,,效率越高,,,,,,但无邪性也越差。。。这个分寸,,,,,,就是整个项目最要害的工程判断。。。
算力荒,,,,,,逼出来的
谷歌为什么要下这步险棋??
谜底很简朴,,,,,,也很残酷:算力真的不敷用了。。。
不是「有点主要」那种不敷用,,,,,,是「送上门的钱都不赚了」那种不敷用。。。
算力欠缺已经在谷歌内部引发强烈矛盾,,,,,,Google Cloud被迫最先拒绝外部客户的订单——在商业公司里,,,,,,这险些是最极端的信号。。。
6月,,,,,,谷歌签下了一纸条约:每月向SpaceX支付9.2亿美元,,,,,,租用11万张英伟达GPU的算力,,,,,,条约一直签到2029年。。。
一家全球最大的云盘算公司,,,,,,居然要向一家火箭公司租算力——光是这个画面,,,,,,就足以说明AI军备竞赛已经疯狂到什么田地。。。
谷歌并不孤苦。。。
全行业都在往推理芯片上疯狂押注:SambaNova、d-Matrix这样的首创公司在做,,,,,,OpenAI、微软也在做,,,,,,亚马逊有Trainium和Inferentia,,,,,,微软有Maia。。。
英伟达自己都坐不住了——去年12月豪掷200亿美元,,,,,,拿下推理芯片公司Groq的手艺授权。。。
所有人的目的只有一个:把每一瓦电,,,,,,榨出更多Token。。。
而「把模子硬连线进芯片」这条路,,,,,,此前只有加拿大首创公司Taalas在走——它已从Quiet Capital、富达等投资方融资超2亿美元。。。
现在,,,,,,谷歌亲自下场了。。。
一场豪赌
但十倍能效,,,,,,不是白拿的。。。价钱是两个字:僵化。。。
只有后续世代的Gemini仍沿用芯片设计时的统一底层架构,,,,,,Frozen v2才华继续事情。。。
换句话说,,,,,,谷歌是在赌——赌自己未来几年不需要大改Gemini的造法。。。
从纯Transformer到MoE混淆专家,,,,,,从纯文本到多模态原生,,,,,,从麋集推理到希罕激活——模子架构的迭代速率,,,,,,堪比手机行业最疯狂的年月。。。
谷歌自己也清晰这个风险。。。以是Frozen v2不会做到TPU的产量规模,,,,,,更像一次有限度的试验:赌对了,,,,,,就是印钞机,,,,,,每瓦电多榨几倍Token,,,,,,数据中心省下来的电费和机柜都是纯利润;;;;赌错了,,,,,,就当交学费,,,,,,教工程师学会怎么造更专用的芯片,,,,,,为下一代积累履历。。。
值得玩味的是时机。。。就在上周,,,,,,彭博爆出Gemini 3.5 Pro因编程能力等多项指标不达标而三度延期。。。
模子侧腹背受敌的谷歌,,,,,,突然把更多筹码推向了自己最深的那条护城河——芯片。。。
从昔时自研TPU镌汰对英伟达的依赖,,,,,,到今天把模子直接焊死进硅片,,,,,,谷歌走的是统一条路的更深处:软硬件协同的止境,,,,,,是软硬件合体。。。
AI的竞争最先拼物理。。。
参考资料:
https://x.com/kimmonismus/status/2079193746944790666?s=20
https://castlecrypto.gg/news/alphabet-shares-rise-following-reports-of-ultra-efficient-ai-chip/
编辑:所罗门
文章点评
未盘问到任何数据!
揭晓谈论
◎接待加入讨论,,,,,,请在这里揭晓您的看法、交流您的看法。。。