AI落地,,还差一口吻
文 | 半导体工业纵横
纸面算力与现实产出之间的鸿沟有多大????WAIC 2026现。。。,多位行业人士给出了一个令人担心的参考数字:不到30%。。。也就是说,,一台AI服务器交付到用户手中后,,真正被有用使用的算力,,可能连规格表上数字的三成都不到。。。
这并非个体人的判断。。。差别领域的芯片企业,,不约而同地把话题从“算力有多大”转向了“算力用得好欠好”。。。这种叙事方式的转变自己就是一个信号:AI工业已经跨过“能不可”的第一道门槛,,向“好用”阶段迈进。。。
这个阶段的焦点矛盾,,正在从芯片自己向上迁徙。。。
01 推理逾越训练:不是展望,,是既成事实
2024年,,行业热钱险些所有涌向训练侧;;2026年,,推理关于算力挪用量已经凌驾训练。。。
训练芯片追求的是“学得更好”,,推理芯片追求的是“用得更省”。。。曦望智能商业产品与解决方案高级总监付庆平体现,,两种差别的设计哲学,,对应的是两种差别的商业逻辑。。。推理调理的粒度正在从使命级细化到算子级:“越细粒度越高效,,每高效一分,,token本钱就降一分。。。”这意味着推理芯片的竞争已经深入到模子层的调理效率,,一个看似属于软件领域的维度,,正在成为芯片产品的焦点卖点。。。
从视频处理的视角看,,推理需求的爆发更为直观。。。VPU厂商判断未来80%的视频将由AI天生,,而据测算,,视频天生的token消耗是文字天生的1000倍。。。据先容,,通过将视频相关盘算从GPU中剥离出来交给专用芯片处理,,VPU+GPU协同有望将视频天生本钱降低8成。。。
后摩智能战略生态VP杨大卫体现:“训练决议模子能力上限,,推理决议AI能不可大规模落地。。。”当推理成为工业主轴,,芯片行业的需求结构随之改变。。。云端需要规模;评硇酒,视频场景需要VPU,,端侧快思索需要NPU,,低功耗端侧推理需要存算一体架构。。。通用GPU不再是唯一谜底,,专用化正在从理论讨论酿成商业现实。。。
02 算力经济学,,成为行业共识
镕铭微电子联合首创人兼CEO朱照远以为算力本钱降低的基础原因是效率提升。。。用交通方式的升级来明确硬件产品的更新:从马车到汽车再到火车,,同样从A点到B点,,本钱是降低的,,但降低的基础原因不在于“省”,,而在于效率的“升”。。。
这诠释了为什么WAIC 2026上,,多家企业不再把TOPS数字放在首位,,而是最先谈“综合本钱”。。。数据中心客户在评估芯片方案时关注至少六个维度:稳固性、性能、延时、功耗、画质和TCO。。。“客户不关注你叫什么PU”,,这句话背后的事实是:当AI从实验室进入生产情形,,评价标准不是你的考试分数,,而是你的事情效果。。。
推理芯片通过硬件裁剪掉训练相关的冗余功效来降低本钱。。。这体现了从通用到专用的趋势。。。从最早的CPU,,到GPU,,再到DPU、VPU,,每一次专用化都对应着某一类盘算需求从通用平台中剥离出来。。。VPU+GPU协同降低本钱的案例,,已经为这一趋势提供了商业验证。。。现阶段国产芯片选GPU蹊径是市场选择。。。硬件厂家要面临市。。。,产品要一代接一代不可断,,风险最可控的就是通用GPU,,但再往后生长,,种种各样的算力芯片会向细分领域生长,,在局部形成独角兽。。。
边沿芯片的降本方案是依赖算法相助同伴在差别场景上做适配,,若是品类足够大(如手机、汽车),,可以肩负定制化本钱;;其他场景靠通用底座笼罩,,才华让底层降本的盈利惠及更多行业。。。从端侧角度看,,问题更为重大。。。端侧推理的三大刚需是隐私、本钱和物理天下交互的延时,,这三个维度决议了端侧芯片的设计逻辑与云端差别。。。爱芯元智联合首创人、副总裁刘建伟指出了端云之间的逻辑差别:云端先看体验再降本钱,,端边先看本钱再提体验。。。这个顺序差别直接影响芯片设计取舍。。。端侧AI的商业模式也在因此爆发转变,,当用户发明订阅费可能比硬件自己还贵时,,从订阅制转向一次性买断的诉求最先泛起。。。
AI芯片行业正进入以TCO为焦点考量的成熟期。。。在这个阶段,,软件优化能力和系统工程能力的价值,,可能凌驾硬件参数自己。。。
与此交织的另一个分歧是:下一场AI革命在那里爆发。。。有人以为云端(AI视频天生)和端侧(具身智能)都会爆发革命;;有人把2026年界说为“物理AI元年”,,最看好机械人;;也有人以为全行业都会爆发,,落地最快的一定是最懂AI的行业。。。
03 物理AI元年:具身智能走到哪了
具身智能被多家企业提及为下一个爆发点。。。WAIC现场的机械人展区提供了佐证:差别于往年演出型机械人,,拿水、打拳击;;今年已有机械人能长时间一连完成详尽性事情,,从展台秀进入工厂产线。。。
但具身智能的工业形态远未收敛。。。有看法主张广义——扫地机、割草机这类能自主干活的机械就可以称为“机械人”;;也有看法倾向人形蹊径,,理由是人类所有基础设施都为人形设计,,人形机械人适用性最广,,是最通用的硬件载体,,规模;蟊厩山。。。但现阶段人形制造本钱仍高,,最终取决于哪种形态先做到本钱可行。。。
机械人对AI的依赖水平与其他终端有实质区别。。。有存算一体蹊径的企业给出了一个尖锐比照:PC脱离AI照旧PC,,汽车脱离AI照旧汽车,,但机械人脱离AI就是一块铁。。。这意味着机械人对端侧AI的刚需最为迫切,,体现在三个维度:隐私(数据不可上云)、Token本钱(频仍挪用云端太贵)、物理交互的实时性和清静性(隧道无信号时不可失控,,机械人下令不可依赖云端)。。。在这三个维度上,,端侧芯片的低功耗和高能效比成为要害变量,,而存算一体架构可将功耗能效比提升一到两个数目级。。。
关于具身智能行业来说,,数据瓶颈已有所缓解。。。行业巨头已网络大宗视频和操作数据;;算法基本可用,,WAIC上多家机械人公司的展示已经证实。。。真正的挑战在于算法怎样高效跑在算力上:模子剪枝、低功耗、低延时必需协同优化,,实质仍是系统工程问题。。。
数百家具身智能创业公司正在差别场景试水——物流、装配、陪同——但尚未泛起公认的杀手级应用。。。底层的芯片行业相信,,给客户翻开一道通往万物智能的大门,,自然会涌现出许多应用。。。
04 软件生态:比芯片更厚的壁垒
若是说本钱效率是竞争的终点,,软件生态就是通往终点的要害路障。。。;氐娇岬降闹矫嫠懔τ胂质挡龅闹卮蟛畋穑,其泉源在于模子选型、微调、知识库建设、中底层软件栈优化和机房设置等环节。。。交付一台AI服务器和实验一个AI项目,,就像买了一口锅和炒出一盘菜,,中心尚有着相当大的事情量。。。
芯片的生态壁垒的焦点不但是手艺问题,,更是开发者习惯问题。。。存算一体等新架构面临的焦点挑战:不是芯片做不出来,,而是软件生态跟不上。。。即便芯片参数已经很漂亮,,但系统工程:适配、调优、客户场景打磨,,还需要大宗事情。。。
在端侧AI场景中,,模子迭代速率极快。。。云侧大模子已经从半年一个版本加速到两个月一个版本,,端侧模子同样在快速演进。。。每一次模子迭代都需要与芯片重新适配,,工程落地的速率直接决议商业化速率。。。“一项手艺从能用到好用,,需要许多脏活累活。。。”
有看法指出,,中底层软件栈可以把同样硬件的算力输出提高2到5倍,,但这次WAIC上深入讨论这个偏向的并未几。。。全栈落地需要多方面专业人才协同,,智能体、模子优化、知识库、底层算力调理和运维,,把这些角色凑齐,,才有可能实验一个真正高效的全栈。。。
当被问及国产AI芯片最需要生长的是性能照旧生态时,,一家推理芯片企业的回覆是:两者都不组成目今瓶颈,,最缺的是工业协同。。。
从存算一体到端侧NPU,,从VPU到全栈集成,,差别手艺蹊径的企业所有指向软件生态而非硬件性能。。。芯片架构的专用化偏向已有行业共识,,但各企业对专用化的速率、深度和最终形态保存实质分歧。。。分歧的底层逻辑是:AI应用场景的碎片化水平,,是否足以支持多种专用架构共存????照旧最终会收敛到少数几个通用平台????
当硬件参数竞赛靠近边际收益递减的拐点,,竞争主阵地必定上移到软件层。。。而这个上移的历程,,恰恰是国产芯片从“追赶性能”转向“追赶系统”的要害窗口期。。。行业人士进一步指出,,国爆发态的普及率已经很是高,,高校直接在国爆发态上教学,,要害领域客户选用国爆发态,,这种自上而下的生态建设路径,,是中国独吞的优势。。。
更进一步的判断是:国产AI芯片在性能和生态上都不组成目今瓶颈。。。这个判断若是放在三年前险些不可想象。。。但芯片参数已经很漂亮,,系统工程还需要大宗事情。。。差别不在“能不可”,,而在“好欠好”。。。一个考了70分、80分的模子已经可以干活了,,但要干好活不是一个模子、一颗芯片单独的问题,,是需要工具链、编译器、调理系统、行业适配的周全跟进。。。从AI推理芯片到真正落地,,需要大宗的工业协作:解决方案相助、用户场景相助、超节点网络相助,,每一个环节都需要有人去做。。。
全栈整合的样本确实保存,,从CPU到软件集成公司再到硬件制造,,集团化的系统在要害领域的大型全栈工程上具备优势。。。但这种能力在行业中并不普遍,,更多企业仍在各自为战。。。
从客户侧看,,据行业反映,,数据中心芯片从接触到大规模上线通常需要6到24个月,,测试周期长、导入门槛高。。。这意味着纵然芯片手艺达标,,商业化落地仍需要漫长的验证周期。。。这个周期不是单点手艺能压缩的,,需要芯片厂商、软件供应商和客户方的深度协同。。。
2026年的AI芯片行业正在履历一个玄妙转向:竞争的主阵地从晶圆厂和流片车间,,迁徙到了编译器、工具链和系统调理层。。。当多家企业从差别手艺蹊径出发,,却不约而同地指向统一道鸿沟时,,这已经不再是某一个人的判断,,而是一种行业整体认知。。。
@梁学军:ag1048集团,,因凡蒂诺回应天下杯天价门票:没问题@宁国荣:中国男篮65比60击败荷兰
@林俊宏:泰总理抵上海 胸前别中泰国旗说中文