作者丨薛皓皓
编辑丨关雎
已往一年，，，，，美国科技圈掀起了一波以AI为名的裁人潮。。。。 。逻辑很简朴：AI醒目活，，，，，人就可以少要。。。。 。
但现实并不如预期顺遂。。。。 。
一项对300多家企业HR的访谈显示，，，，，有36%的公司裁掉员工之后，，，，，不得不把裁掉人数的其中一半重新招了回来。。。。 。原因是AI还不敷稳固，，，，，许多活照旧得人来干。。。。 。
更讥笑的是，，，，，裁人省下的钱，，，，，被AI的Token账单吃掉了。。。。 。
Uber是最典范的案例。。。。 。去年12月，，，，，Uber大力推广AI编码工具，，，，，工程师普及率很快抵达95%。。。。 。但4个月后，，，，，Uber整年的AI预算就被打穿。。。。 。总裁随即下令：每人每月AI工具开销，，，，，上限卡死在1500美元。。。。 。
另一个极端案例与OpenClaw有关。。。。 。2026年5月，，，，，已加入OpenAI的OpenClaw首创人Peter Steinberger宣布了一张使用统计截图。。。。 。据媒体报道，，，，，其三人团队使用了约100个Codex编码智能体实例 ；；；已往30天共提倡约760万次请求，，，，，消耗约6030亿个Token, 使用的API等价本钱约为130.5万美元。。。。 。
这背后有一个结构性原因：智能体不是在一步步完成使命，，，，，而是在重复循环，，，，，把每一轮的代码、报错日志、搜索效果重新塞进上下文窗口，，，，，Token越烧越多。。。。 。通俗对话每轮消耗约1万个Token，，，，，推理模子升到10万，，，，，智能体动辄凌驾100万。。。。 。统一个使命跑两次，，，，，消耗量可以相差30倍。。。。 。
这场账单 ；；；，，，，正在倒逼整个行业重新思索AI的运行方式。。。。 。为此，，，，，创业邦与引航陪跑创业营的教练——原高通全球副总裁沈劲聊了聊这个话题。。。。 。
01 Token消耗量上涨100倍
沈劲未曾想到，，，，，跑AI Agent会云云花钱。。。。 。
作为投资人，，，，，他天天需要处理大宗的邮件、微信新闻和短信通知。。。。 。这些事情繁琐但并不重大，，，，，正是AI智能体最善于的领域。。。。 。于是他在某着名通用AI Agent平台上搭建了一套事情流，，，，，设定好触发条件，，，，，让智能体天天自动跑一遍。。。。 。
效果刚运行了一天，，，，，就失事了。。。。 。
他一个月拥有8000积分的额度，，，，，按正常使用节奏，，，，，这笔预算足够支持一个月的AI智能体花销。。。。 。但智能体启动后，，，，，它并没有在高效地处理使命，，，，，而是泛起了种种BUG，，，，，更严重的是一天之内，，，，，8000个积分所有归零。。。。 。
沈劲随即给平台方写了一封邮件，，，，，语气榨取但诉求明确：我用了你们的官方模板，，，，，按标准流程跑了一遍，，，，，BUG没有修复，，，，，8000个积分都没了，，，，，请补回来。。。。 。
对方没有回复。。。。 。
“可能他们刚融完资，，，，，近期推广推得又很猛，，，，，顾不上处理这种售后的事情。。。。 。”沈劲厥后这样诠释。。。。 。平台方的默然一连了整整一个月，，，，，直到下个月系统自动重置，，，，，才又发放了新的8000积分。。。。 。
“现在我不太敢用了，，，，，预计过两天就把订阅作废掉。。。。 。”他说这话的时间语气平庸，，，，，但背后的结论却很尖锐——
这不是他一人遇到的征象，，，，，而是整个行业都面临的问题。。。。 。
微软也保存类似情形。。。。 。旗下的装备体验部分（认真 Windows、Microsoft 365、Teams 等产品）曾为数千名开发职员，，，，，甚至设计师和项目司理，，，，，都开放了Claude Code使用权限。。。。 。效果这一产品在内部大受接待，，，，，账单也随之失控，，，，，为了阻止过高的开支，，，，，该部分要求在今年6月末，，，，，作废绝大大都内部的 Claude Code 允许证。。。。 。
随着ChatGPT横空出生后，，，，，Token消耗也随着手艺沿革爆发了指数级别的飙升。。。。 。沈劲以为，，，，，ChatGPT类的对话式AI每轮消耗约1万个Token，，，，，推理模子后每轮消耗约10万个Token，，，，，智能体则每轮消耗约100万个Token。。。。 。
以是，，，，，从1万个Token飙升至100万个Token，，，，，单位使用量在三年多的时间暴涨100倍。。。。 。
这100倍消耗中的绝大部分，，，，，并非用于天生内容（好比代码、文字、图片），，，，，而是用于数据输入。。。。 。
以代码天生的案例来看，，，，，从相关研究显示，，，，，输入Token和输出Token之比高达154:1。。。。 。那输出一个Token，，，，，需要输入154个Token，，，，，那154个Token用在那里？？？
谜底是AI将Token用于重复循环地读取代码库和报错日志。。。。 。在每一轮对话中，，，，，AI把上一轮的工具挪用效果、报错信息、网页搜索、代码内容等重新打包输入，，，，，再举行下一轮修改。。。。 。对话次数越多，，，，，输入的Token消耗量越大，，，，，Token消耗量就像滚雪球般急剧上升。。。。 。
Token消耗量在三年时间暴涨的另一个原因在于，，，，，本钱的不可展望。。。。 。统一个使命，，，，，执行两次，，，，，Token消耗差别可达30倍——“做完这次使命花10美元，，，，，下次同样使命可能要花300美元”沈劲说。。。。 。
企艺府竿鸄I编程实现降本增效，，，，，效果却可能适得其反。。。。 。
Meta、微软等硅谷高科技大厂已在今年上半年裁掉超10万个岗位，，，，，AI成为最频仍提及的理由——企业期望用AI替换人工，，，，，而压缩本钱并提高效率。。。。 。
讥笑的是，，，，，许多企业发明高昂的AI账单，，，，，叠加腾贵的驱逐用度，，，，，已把AI带来“降本增效”盈利消耗殆尽。。。。 。
“最近有一项报告说明，，，，，凌驾三分之一的企业裁掉员工后，，，，，不得不再召回裁掉用工数目的一半，，，，，由于他们发明AI并未带来预期水平的节约本钱和提高效率。。。。 。”沈劲说。。。。 。
02 GPU赢了三年，，，，，CPU要翻身了
智能体AI给我们带来的转变, 不但仅是腾贵的Token消耗, 也让CPU要咸鱼翻身了. 已往三年多时间，，，，，所有人的注重力都在GPU上。。。。 。2025年，，，，，Meta、微软、谷歌和亚马逊仅这4家公司，，，，，就在AI智算中心上破费超3000亿美元，，，，，而其中六成用于采购GPU。。。。 。
在AI智算中心的一台服务器内部，，，，，GPU和CPU配比约为8:1，，，，，GPU需求量远高于CPU。。。。 。
GPU和CPU需求量的悬殊差别，，，，，也反映在头部公司的市值上：2025年底，，，，，GPU头部公司英伟达市值突破三万亿美元，，，，，而同期CPU头部公司英特尔市值仅不到2000亿美元。。。。 。
不过在沈劲看来，，，，，GPU和CPU配比正在爆发要害转变：GPU和CPU之比，，，，，正从8：1转变为1：1。。。。 。“在AI Agent时代，，，，，CPU正在悄然回到舞台中央。。。。 。”沈劲说。。。。 。
GPU的强项在于天生内容，，，，，但AI Agent最消耗资源的地方，，，，，不是在内容天生，，，，，是在“编排”和“调理”，，，，，这是CPU的强项。。。。 。
详细而言，，，，，AI Agent需要CPU做以下事情：使命编排（决议先做什么、再做什么）、状态的长期化维护（记着上一步做到那里了）、高并发的API挪用（同时向多个外部系统发出请求）、重大的沙盒情形治理（给代码运行提供隔离的测试空间），，，，，以及挪用种种工具——浏览器、数据库、搜索引擎。。。。 。
沈劲以自身订机票的案例来说明CPU对Agent的作用：他曾用Agent帮自己搜索一段极其苛刻的多航段行程：上海出发，，，，，途经西班牙、多伦多，，，，，最终抵达圣地亚哥 ；；；凌驾7小时的航段必需是能躺平的商务舱，，，，，7小时以内的航段只要经济舱 ；；；所有方案里总价最自制，，，，，且登机时间不可太早。。。。 。
这个使命，，，，，智能体需重复挪用各大航空公司的数据接口和携程这样的OTA平台，，，，，把几十种方案的价钱、舱位、时间所有拉取出来，，，，，再凭证多个条件举行比对和筛选。。。。 。
整个历程里，，，，，GPU险些无用武之地——整个历程险些不涉及内容天生，，，，，有的只是海量的数据调取、较量和编排。。。。 。最终，，，，，CPU相对GPU的使用率飙升到了70%~80%。。。。 。
沈劲还分享了几个详细案例：
由此可见，，，，，使命越重大、越依赖外部数据调取和多方法编排，，，，，CPU的占比就越高。。。。 。
现在，，，，，新的AI硬件想将云端的运算模式，，，，，转变为电脑外地的运算模式。。。。 。
这背后的逻辑并不重大。。。。 。云端的运算模式，，，，，是一个“用几多花几多”的Token计量方式——每一次挪用、每一轮循环，，，，，都在按Token计费。。。。 。智能体的“上下文雪球效应”让这个问题雪上加霜：循环越多，，，，，输入Token越多，，，，，账单越高，，，，，没有上限。。。。 。
更主要的是，，，，，云端数据中心的硬件设置是以GPU为焦点设计的（GPU与CPU的比例约为8:1），，，，，而GPU自己就是为大规模内容天生优化的，，，，，并不善于智能体所需要的高频调理和工具挪用——这些恰恰是CPU的强项。。。。 。
外地装备则完全差别。。。。 。每台PC里都有性能强劲的CPU，，，，，自然适合承接智能体的编排和调理事情 ；；；更要害的是，，，，，外地运算不按Token计费，，，，，智能体跑几多轮、循环几多次，，，，，都不会爆发特另外账单。。。。 。
今年6月1日，，，，，英伟达在台湾宣布的RTX Spark硬件，，，，，正是专门针对外地AI Agent适配的新型硬件载体。。。。 。
这台装备的焦点，，，，，是一颗专门为智能体打造的定制芯片N1X——它把GPU和CPU封装在一起。。。。 。并且，，，，，英伟达与微软相助，，，，，对Windows 11举行了13项要害能力的底层刷新，，，，，目的是把古板的PC操作系统升级为"智能体OS"——既能让智能体在外地高效运行，，，，，又能兼容用户已经习惯的所有软件。。。。 。
03苹果：打造兼具隐私和省钱的AI
英伟达RTX Spark将把算力从云端拉回外地，，，，，但在云端和终端漫衍式AI方面，，，，，苹果一直处于第一梯队。。。。 。
在近期举行的WWDC上，，，，，苹果正式推出了自己全新的AI解决方案。。。。 。“当硅谷大厂都在卷上千亿、上万亿参数的大语言模子时，，，，，苹果却在追求最懂个人、最清静、最能调理种种工具的AI。。。。 。”沈劲以为。。。。 。
苹果推出了凭证AI使命重漂后而切分的五层系统。。。。 。
第一层在手机外地，，，，， 一个30亿参数的轻量模子，，，，，专门处理天天被触发几十次的日常需求：总结通知、提炼短信摘要、调解写作语气。。。。 。它完全不联网，，，，，Token本钱为0。。。。 。
第二层也在手机外地，，，，， 一个200亿参数的希罕模子，，，，，每次只激活其中10到40亿参数。。。。 。它认真更高质量的Siri对话、多模态明确（好比看懂照片里的内容）。。。。 。依然不联网，，，，，Token本钱为0。。。。 。
第三层最先上云，，，，，但上的是苹果自己的私有云。。。。 。当使命涉及重大推理、多方法的智能体事情流、或者高质量图像天生时，，，，，请求会被送到装有苹果自研芯片的服务器上，，，，，由苹果自研的主力语言模子来处理。。。。 。
第四层也在苹果私有云，，，，，认真处理的是高质量图像天生和重大的图像编辑，，，，，用的也是苹果自研模子。。。。 。
第五层会在谷歌公有云，，，，，跑在英伟达GPU上，，，，，处理前四层都搞未必的极端使命，，，，，好比高级数学推理和极重大的多模态明确。。。。 。
沈劲以为，，，，，苹果这套分层架构同时服务于两个目的：省钱和 ；；；ひ私。。。。 。能在手机外地解决的，，，，，绝不上云 ；；；必需上云的，，，，，优先走苹果自己的私有云 ；；；只有少少数最重大的使命，，，，，才会流入谷歌的公有云。。。。 。
关于这场Token账单的失控，，，，，沈劲以为至少有四个值得创业者思索的偏向：
第一个偏向，，，，，是做消耗类AI终端以及在终端的AI小模子。。。。 。手机市场已经没有悬念——海内就那五六家，，，，，名堂早已锁死。。。。 。但手机之外的C端装备，，，，，盒子、眼镜、手表，，，，，依然有着诸多机缘。。。。 。
第二个偏向，，，，，是做漫衍式智能体AI的运营商。。。。 。当端云协同成为主流，，，，，必定需要一个调理层——它的事情是判断哪个使命在那里跑最合适：外地小模子、苹果私有云、照旧公有云大模子，，，，，并认真使命编排和状态维护。。。。 。
第三个偏向，，，，，做Context Engineering（上下文工程）手艺公司。。。。 。现在，，，，，Token消耗自己的问题，，，，，还未完全解决。。。。 。他的判断是：若是有一家公司能做出一其中心层，，，，，让企业的请求在进入云端大模子之前先经由压缩和优化，，，，，把Token消耗镌汰60%，，，，，“肯定许多公司愿意通过这一平台来做”。。。。 。
第四个偏向，，，，，做CPU，，，，，岂论是超算中心的CPU，，，，，照旧PC、手机、边沿盒子等终端的CPU，，，，，都是创业的极佳的偏向。。。。 。
接待点击链接报名引航陪跑创业营：https://www.coachingcamp.cn/
