端边芯片的竞争，，，，，才刚最先。。。。。
在2026 WAIC现场，，，，，我们视察到：大模子的能力，，，，，正在从互联网和谈天框里走出来。。。。。
两年前，，，，，行业对大模子的所有想象险些都在云端：参数越大越好，，，，，集群越强越好，，，，，谁在数据中心里堆的GPU多，，，，，谁就是赢家。。。。。着实，，，，，这套逻辑到今天也没有错，，，，，但它只讲对了故事的一半。。。。。
至于另一半，，，，，在云端之外，，，，，正在清静地爆发。。。。。
Agent到来以后，，，，，人们发明，，，，，推理使命最先脱离数据中心，，，，，沉淀到了PC外地、手机外地、机械人的大脑里，，，，，以及更多叫不着名字的终端装备中。。。。。终端形态各异，，，，，面临的是统一个“不可能三角”：功耗只有几瓦，，，，，本钱卡在几十美金，，，，，客户却要求它们跑得动几十亿甚至上百亿参数的模子。。。。。
芯片行业已往十年没解过这种题，，，，，由于云端的规则是推高天花板，，，，，算力强者通吃。。。。。而端边要做的是，，，，，在物理规则的铁笼子里，，，，，把大模子推理的效率逼到极致。。。。。
这道题，，，，，重写了端边AI芯片的竞争规则。。。。。
01. 大模子，，，，，正在走向端边
为什么端边大模子“一夜之间”就成为了时势所趋？？？？
最近一段时间，，，，，黄仁勋重复在讲一个判断：推理算力需求约莫要增添一万倍，，，，，Token会成为新的计量单位。。。。。
数字自己不是重点，，，，，量级的转变才是。。。。。推理一旦酿成云云高频、一连、与账单直接关联的行为，，，，，全走云端在本钱上也就会越来越谬妄。。。。。一次推理挪用花不了几个钱，，，，，但一天几亿次会是一笔很惊人的账。。。。。
新的推理量级作育的本钱压力，，，，，会把越来越多的盘算推向端边。。。。。
中国市场对这件事的反映比外洋更快，，，，，大宗应用方案公司已经在找芯片厂商，，，，，要求做外地加云端的混淆方案。。。。。执法、金融这些笔直行业的需求尤其详细，，，，，对数据隐私和盘算延迟要求更高，，，，，对生产力工具迭代的嗅觉也更敏锐。。。。。
相比验证看法，，，，，市场更需要的是能跑通、能量产的交付级产品。。。。。而站在芯片公司的视角下，，，，，水温的转变正在于此：适配端边大模子的AI芯片，，，，，很快就会成为一批批真实的订单。。。。。
一家深圳公司提供了一个样本，，，，，他们搭了一个端云混淆的Agent平台，，，，，上面跑着各行业的智能体，，，，，用于日常运营，，，，，用一套算法动态分配使命，，，，，实时判断哪些走外地，，，，，哪些上云端。。。。。系统跑了一段时间之后，，，，，结论是：80%左右的使命在外地完成，，，，，只有20%走云端，，，，，平台还会自动统计客户省下了几多Token用度。。。。。
这个数字说明晰一件事：大宗智能体的事情流程，，，，，外地算力完全可以承载，，，，，并且无论是终端装备照旧更好的AI芯片，，，，，客户购置外地算力都只需要一次性消耗，，，，，云端的token账单却要按用量、按月计费。。。。。
经济账一旦跑通，，，，，迁徙就是不可逆的。。。。。
本钱只是第一层，，，，，延迟是第二层。。。。。端侧推理能做到毫秒级响应，，，，，云端推理则要受制于网络情形，，，，，关于需要实时交互的Agent来说，，，，，延迟是会破损使命的硬伤。。。。。
隐私是第三层让端边大模子走向舞台中心的因素，，，，，数据即资产的认知越来越普遍，，，，，外地处理意味着照片、文件、视频数据始终留在外地装备里，，，，，不但清静，，，，，并且离线可用。。。。。
也就是说，，，，，端边大模子可以联网获取外部信息，，，，，但外地数据和处理能力是留在外地的，，，，，断网也能跑。。。。。关于不少需要在网络死角运行的工业装备和移动终端来说，，，，，清静可离线是数字化的生死线。。。。。
几层变量叠加在一起，，，，，揭开了端边大模子价值升维的真正原因：大模子的价值锚点，，，，，正在从知识密度转向行动密度。。。。。
一个会谈天的模子，，，，，只要云端的算力和数据就够了，，，，，而一个会做事的模子，，，，，由于推理频次和一连性大幅上升，，，，，带来了更显著的本钱和清静问题，，，，，必需往清静、无邪、可控的端边走，，，，，以是端边的比例只会越来越大。。。。。
未来，，，，，主流解决方案的端云比例详细是几多不主要，，，，，但背后的逻辑很清晰：外地推理能知足的场景，，，，，肯定先用外地；；外地做不了的，，，，，再上云端。。。。。
与此同时，，，，，端边化的趋势也给硬件端抛出了一道新难题：云端芯片比的是一力降十会，，，，，算力即正义，，，，，而端边的游戏，，，，，竞争规则纷歧样，，，，，比的是另一种本事。。。。。
走向端边大模子的AI芯片，，，，，逃不开的一个入局门槛是，，，，，怎样解开谁人“不可能三角“：即能力要求越来越高，，，，，要跑更大的模子、更快地处理使命，，，，，功耗却只有几瓦，，，，，本钱卡在几十美金。。。。。
性能、本钱、功耗，，，，，三个约束相互咬合，，，，，放弃任何一个，，，，，都会让端边大模子失去适用的魅力。。。。。
02. 新的终端，，，，，新的解法
把这个“不可能三角”从幕后推到台前的，，，，，是一批跟已往完全差别的终端。。。。。
已往几年，，，，，AI在终端上的角色很轻。。。。。好比给手机加个修图优化，，，，，给PC加个语音助手，，，，，于是前几年早早地就泛起了AI PC这个品类。。。。。芯片厂商们的应对步伐也是轻量级的，，，，，Intel在Panther Lake里塞一点GPU或NPU，，，，，高通在骁龙里集成一个 NPU，，，，，属于对PC品类的锦上添花。。。。。
但从2025年最先，，，，，新的装备形态最先冒头。。。。。
“它们长得不像任何你见过的电脑，，，，，可能更像鸡蛋、像花瓶、像路由器。。。。。”一位芯片创业者形貌客户样机的时间，，，，，用了这么几个比喻。。。。。
但配合点是：它们不是“为人”设计的，，，，，是为了AI和Agent而设计的原生硬件。。。。。以是不需要触控、键盘，，，，，不需要人坐在前面操作，，，，，可能也没有屏幕，，，，，但可以做到语音和多模态交互，，，，，7×24小时不中止运行。。。。。它们的保存理由只有一个，，，，，就是让AIagent有一个物理的、一连在线的身体。。。。。
这些装备有一个刚热起来的名字：Agent Computer。。。。。
遐想今年头在拉斯维加斯Sphere宣布了全球首款个人超等智能体Qira，，，，，英伟达从DGX Spark一起推到RTX Spark。。。。。两家巨头的行动指向统一个偏向：让Agent Computer从一个看法成为一个真实的硬件品类。。。。。
WAIC现场。。。。哄谙階I主机P7
但最终能够决议这个品类主流形态的，，，，，可能不是PC厂商，，，，，也不是芯片厂商，，，，，而是应用场景。。。。。
单就通用性较强的家庭场景和企业场景，，，，，现在完全是“两拨人”在做两套差别的装备。。。。。家庭要的是中枢大脑，，，，，好比放在客厅，，，，，调控灯光、影象对话、羁系老人孩子的看护；；企业要的是生产力工具，，，，，跑执法文书、数据剖析、代码审查。。。。。
统一家硬件厂商很难把这两套思绪一起做透，，，，，统一个芯片架构要笼罩这两种需求，，，，，也绝非易事。。。。。这也就意味着，，，，，端边终端市场自然就是碎片化的。。。。。
而终端形态的变异和碎片化，，，，，也进而倒推了AI芯片的界说。。。。。
一个不中止承载Agent使命的装备，，，，，对外地算力的要求跟已往跑一个外地模子完全差别，，，，，它需要自力的、能力足够强的NPU，，，，，要大带宽、大存储容量，，，，，能处理长上下文的重大使命。。。。。单个使命可能要跑半个小时甚至更久，，，，，中心不可断。。。。。
新终端把不可能三角削得更尖了。。。。。所有AI芯片玩家面临的是统一道题，，，，，必需把效率做到极致，，，，，这一点没有争议。。。。。但解法在显着分化。。。。。
高通和苹果走的是SoC延展蹊径，，，，，在原有ARM架构上加NPU，，，，，利益是生态成熟，，，，，几十亿装备已经在跑了，，，，，但改良的天花板就在头顶上。。。。。通例架构哪怕堆到3纳米、2纳米的先进工艺，，，，，递减的制程盈利也带不来质变。。。。。
英伟达从GPGPU往下延伸，，，，，算力储备不是问题，，，，，但三十年的CUDA生态既是护城河也是历史肩负，，，，，带着一整套为云端训练优化的架构往端边挪，，，，，跟背着一座山下山差未几。。。。。
在巨头们的路径分野之间，，，，，泛起了第三条路：存算一体。。。。。
存算一体的实质是从架构层面重新设计，，，，，把盘算和存储的物理界线突破。。。。。古板芯片的瓶颈在于数据在盘算单位和存储单位之间往返搬运，，，，，功耗和时间都耗在路上，，，，，存算一体的解法是直接在存储单位里做盘算，，，，，搬数据的开销被压到最低。。。。。
相比生态延展的蹊径，，，，，这条新路前期走得会更慢、更难，，，，，要一遍遍test chip，，，，，解决没人碰过的量产问题。。。。。但优势在于，，，，，新架构的效率优势是结构性的，，，，，天花板上限也会更高。。。。。
押注这条路的芯片玩家未几，，，，，正是由于外洋巨头舍弃不了生态游戏，，，，，在敢于做架构立异的厂商里，，，，，国产玩家的身位反而很突出。。。。。建设于2020年底的后摩智能，，，，，算是其中跑得更早、存算一体蹊径更坚决的一家。。。。。
到了端边大模子和Agent Computer这个时间拐点，，，，，芯片厂商的起点基本一样。。。。。不像做手机基带，，，，，或者云端训练芯片，，，，，外洋已经领先了十年。。。。。端边芯片的竞争中，，，，，国产并非完全没有先发优势，，，，，反而有时机在量产和行业落地的速率上，，，，，拿到身位的先机。。。。。
03. 端边芯片的竞争，，，，，才刚打响
端边AI芯片是一条刚拉开的赛道，，，，，而选手已经在加速进场。。。。。
现在的名堂大致可以分三类：高通和苹果这类SoC巨头，，，，，生态成熟，，，，，出货量重大，，，，，但端边大模子对他们来说照旧增量需求，，，，，改良基因决议了能力上限。。。。。高通最近也在做自力NPU，，，，，说明它自己都清晰，，，，，集成方案不敷用了。。。。。
英伟达依附GPGPU的算力势能从云端往下走，，，，，1 PetaFLOP的AI算力扔到消耗级装备里，，，，，火力是够的，，，，，但端边的功耗和本钱约束，，，，，是英伟达已往三十年险些不需要严肃看待的问题，，，，，却也是当下真金白银的市场需求。。。。。
第三类则是像后摩智能这样专注端边的新玩家，，，，，弱点是量产履历和生态还缺乏，，，，，但与此同时也没有历史架构肩负，，，，，可以直接从终端的真实需求出发重新设计芯片。。。。。
显而易见，，，，，最适合创业公司扎堆的第三类路径，，，，，战略决议更值得解构。。。。。
以存算一体蹊径切入端边大模子的后摩智能，，，，，就是一家典范的“战略决议身位”的公司，，，，，首创人吴强早在2023年下半年就做出了一个判断：大模子会从云端往端边迁徙。。。。。
其时，，，，，Agent还没有泛起，，，，，这个判断可以说没有太多证据。。。。。大模子的主战场还在云端，，，，，海内六小龙都在卷参数和集群规模。。。。。存算一体作为架构蹊径，，，，，做端边大模子有点像“横着切了一刀”。。。。。
但吴强盯住了两个信号：智谱出了6B模子，，，，，Llama出了7B模子，，，，，大模子不再是几百B参数巨兽的专利，，，，，小模子也能跑呈现实可用的效果，，，，，在许多场景中阻止“大炮打蚊子”。。。。。
团队拿存算一体架构试跑了一下外地大模子，，，，，跑得相当好。。。。。既然云云，，，，，提前结构端边大模子，，，，，关于做存算一体起身的后摩来说，，，，，就成为了一件顺理成章的事。。。。。
这个预判在两年后获得了麋集验证。。。。。2025年DeepSeekR1横空出生，，，，，端侧安排大模子的手艺门槛也被大幅拉低；；2026年Agent一波落地爆发，，，，，大宗硬件公司涌入做Agent Box、Agent Computer，，，，，ToC、ToB、To家庭的都有，，，，，而以上所有硬件厂商都需要解决一件事：找性价比最高、能量产的芯片。。。。。
后摩由于提前两年做了却构，，，，，吃到了第一波盈利：由于市场上其时能选的成熟方案未几，，，，，战略和手艺蹊径上的先发优势，，，，，实着实在地转化成了客户和订单。。。。。
产品性能层面，，，，，后摩漫界M50用存算一体做到160 TOPS，，，，，功耗约10瓦，，，，，单芯片能跑35B到120B参数的模子，，，，，笼罩AI PC、机械人、边沿推理等场景。。。。。半年到一年前左右，，，，，端边芯片还只能跑7B模子，，，，，今天已经可以跑到120B的参数，，，，，重新标定了端边的能力界线。。。。。
WAIC现场。。。。汉竽β界M50
另一个佐证是，，，，，后摩漫界M50已经走到量产级。。。。。在AI PC偏向，，，，，后摩先后进入了遐想和长城的供应链：遐想AI主机P7搭载M50全球首发，，，，，长城N90 Pro也用M50打出了端侧算力的卖点；；操作系统层面，，，，，后摩漫界M50完成了与银河麒麟操作系统V11的深度适配；；在端边大模子这条赛道上，，，，，后摩还与中国移动告竣了链永生态层面的相助，，，，，客户场景正在从Agent Computer向具身机械人、端边推理和智能移动终端延伸，，，，，量产订单已经最先转化。。。。。
WAIC现场。。。。撼こ荖90 Pro条记本
不过，，，，，虽然从芯片巨头到带着新架构加速入场的创业公司，，，，，都已经给出了自己的解法，，，，，但再把视角拉远一点，，，，，端边AI芯片的竞争还处于早期，，，，，接下来可以分成两个阶段来明确。。。。。
第一个落地阶段，，，，，比的是效率，，，，，也就是谁能在功耗、本钱、面积的物理约束下，，，，，把大模子外地推理的能效推到极致，，，，，这是硬碰硬的工程能力比拼，，，，，花架子和恒久叙事在这个阶段没有用。。。。。
而再往远看，，，，，在效率也逐渐收敛之后，，，，，第二个阶段比的就会是生态和场景适配。。。。。也就是说，，，，，回到了英伟达的恬静区，，，，，磨练的是谁的工具链更完整，，，，，与主流模子框架的适配更顺滑，，，，，更快地帮客户把方案跑起来，，，，，恒久来看仍然能拉开越来越大的差别。。。。。
在第一阶段，，，，，存算一体由于从架构层动了刀，，，，，自然在效率和功耗上有结构性优势，，，，，但这个窗口期也不会一直一连下去。。。。。幸亏，，，，，国产厂商在这条赛道上的起点和外洋是平的，，，，，以后摩来说，，，，，依附架构的奇异性和提前结构，，，，，在海内外都具备站进第一梯队的条件。。。。。
但行业也清晰，，，，，端边大模子现在还处在向行业价值过渡的时期。。。。。AI NAS怎么做，，，，，home center怎么做，，，，，企业端的推理装备怎么做，，，，，大部分人都在探索，，，，，中心一定会有升沉，，，，，也一定会泛起大宗落伍的人。。。。。
2023年，，，，，各人还只有一点Agent的看法，，，，，到了2025、2026年至少看到了场景，，，，，而从看加入景到规；；涞，，，，，中心尚有一段长路要走。。。。。
未来两年，，，，，端边场景里一定会跑出Killer App，，，，，会孵化出大模子原生的应用形态。。。。。生产力工具、更智慧的智能家居和情绪陪同可能最先跑通闭环，，，，，面向公共的普惠应用则是下一步。。。。。
不过，，，，，就像移动互联网时代才泛起了美团、滴滴和抖音，，，，，我们当下着实很难真正想象，，，，，未来能改变人类生涯甚至就业方式的主流应用会长什么样，，，，，经济价值又会是怎样转动起来的。。。。。
在这场竞赛里，，，，，芯片是基础设施。。。。。先落地、先跑通的算力底座，，，，，就能拿到下一阶段的入场券。。。。。
脖子两侧靠前、喉结左右各有一处感受器，，，，，叫颈动脉窦，，，，，它是人体自带的血压心率调理器，，，，，推拿后会让心率变缓，，，，，甚至泛起心脏骤停。。。。。