作者｜张奚晨微信 ｜a8072314b
进入 Agent 时代， ，，一次使命不再只是问模子一个问题， ，，而是妄想、搜索、挪用工具、执行使命， ，，再重复检查效果。。。。。每多走一步， ，，都在继续消耗 Token。。。。。
但公司的 AI 账单已经支持不起 Token 随便烧了， ，，不可允许每一个简朴行动都挪用价钱高昂的前沿模子。。。。。理想的状态是， ，，重大使命需要最强模子， ，，简朴使命可以交给更自制的模子， ，，让善于代码、检索、推理的差别模子各司其职。。。。。问题因此从“哪个模子最强”， ，，酿成“最该挪用哪个模子”。。。。。
Router 在已往主要认真毗连差别模子、切换供应商、平衡价钱和稳固性。。。。。而现在， ，，随着模子越来越多、Agent 的使命链越来越长， ，，它最先肩负更重大的决议：明确使命、选择模子、控制本钱， ，，甚至组织多个模子分工、评审和合成谜底。。。。。
市场已经给这个偏向开出了第一张高价“奖状”。。。。。今年 5 月， ，，OpenRouter 完成 CapitalG（Alphabet 旗下生长基金）领投的 1.13 亿美元 B 轮， ，，估值约 13 亿美元， ，，较一年前翻了一倍多；；；；；；其年化收入在 18 个月里从 100 万美元涨到 5000 万美元， ，，平台每周处理的 Token 已达 25 万亿。。。。。Nvidia、ServiceNow、Snowflake、Databricks 的投资部分都泛起在股东名单里， ，，而这家公司原本并没有在自动融资。。。。。一个抽 5% 过盘费的“中心商”拿到独角兽定价， ，，说明资源已经认可：当模子自己走向大宗商品化， ，，价值正在向调理层转移。。。。。
这也是我们当下关注 Router 的原因。。。。。它既可以通过“把合适的使命交给合适的模子”降低本钱， ，，也可以通过语义判断和多模子协作提升效果。。。。。Router 正在从模子挪用背后的流量分配器， ，，逐渐酿成 AI 系统中分配智能、算力和预算的决议层。。。。。
OpenRouter 之外， ，，本期我们选择了六个还在爬坡的项目， ，，看看跑在前面的玩家怎样沿着差别偏向推进 Router：有的为使命选择模子， ，，有的先明确意图再决议去向， ，，有的组织多个模子配合完成使命， ，，尚有的先成为所有挪用必经的那一层， ，，把网关做成开源基础设施和企业的控制层。。。。。
一、选对模子：为每个使命分配合适的智能
1、Factory Router
一句话先容：Factory Router 是面向软件开发 Agent 的模子路由器。。。。。路由凭证用户指令、近期工具挪用、代码库规模和使命难度等信号， ，，为每个 Droid 会话选择知足质量门槛的低本钱模子， ，，并在模子体现不佳时升级或切换模子。。。。。
团队配景：Factory 是一家 Agent 原生软件开发平台， ，，由伯克利理论物理博士 Matan Grinberg 和曾在微软、Hugging Face 任职的 Eno Reyes 于 2023 年建设。。。。。2026 年 4 月， ，，公司完成由 Khosla Ventures 领投的 1.5 亿美元 C 轮融资， ，，估值 15 亿美元， ，，投资方还包括红杉资源、Blackstone、Insight Partners 和 NEA 等。。。。。
为什么值得关注：它把 Router 放进了真实的 Agent 会话：路由决议不但爆发在使命最先时， ，，还可以凭证模子执行是否顺遂继续调解。。。。。相比通用路由， ，，笔直场景更容易积累可靠的使命—模子效果数据， ，，也更容易证实事实省了几多钱。。。。。官方展示相比所有使命牢靠使用 Claude Opus 4.7， ，，Factory Router 可在坚持前沿性能的同时节约最高 25% 的会话本钱。。。。。
值得思索：Factory 尚未果真路由模子和训练数据， ，，官方宣布的节约比例也来自自有工程基准。。。。。其代表了一条很现实的蹊径， ，，但效果可能高度依赖 Factory 自己的 Agent、数据和事情流， ，，未必能够直接迁徙到其他场景。。。。。
官网链接：https://factory.ai/product/router
2、Inworld Router
一句话先容：Inworld Router 把路由信号从文本扩展到了声音：一个接入 220 多个第三方模子的路由器， ，，可以凭听语言人的情绪、犹豫和语速决议挪用哪个模子——一个显着沮丧的用户， ，，会被自动路由到更强的模子。。。。。
团队配景：Inworld AI 2021 年建设于加州山景城， ，，首创团队是对话式 AI 的老兵——联合首创人 Ilya Gelfenbeyn 和 CTO Michael Ermolenko 此前开办的 Api.ai 被 Google 收购后成为 Dialogflow。。。。。公司以游戏 AI 角色引擎起身， ，，客户包括 Xbox、Ubisoft， ，，累计融资约 1.2 亿美元， ，，2023 年的 5000 万美元融资对应 5 亿美元估值， ，，股东包括 Lightspeed、Founders Fund、Intel Capital、微软 M12 和 Meta。。。。。2025 年 8 月宣布 Inworld Runtime 后， ，，公司重心转向消耗级 AI 应用的基础设施， ，，Router 是其中的焦点组件。。。。。
为什么值得关注：两点差别化。。。。。一是路由依据：大都 Router 只看文本， ，，Inworld Router 与自家实时语音层买通， ，，声学信号——语言人的情绪、年岁、犹豫、语言——直接加入模子选择， ，，这在语音 Agent 场景里是纯文本路由做不到的。。。。。二是商业模式：它同时路由到 220 多个第三方模子和跑在自家基础设施上的开源模子（Gemma 4、DeepSeek、GLM 等）， ，，用亚秒级首 Token 延迟和低本钱推理， ，，接住被路由下来的简朴请求。。。。。今年 6 月它还把语音产品价钱砍掉一半以上， ，，明确亮相要帮消耗级 AI 创业公司把账算得过来——路由在这里是获客入口， ，，推理才是生意。。。。。
值得思索：既当裁判又当运发动。。。。。Inworld Router 决议请求去哪， ，，而候选名单里就有自家模子， ，，这与 OpenRouter 引以为傲的中立性正好相反——路由的公正性和一方推理的利润率之间， ，，保存结构性的张力。。。。。另外， ，，声学信号路由的价值现在主要限于语音优先的消耗应用， ，，这个市场自己还没有被验证；；；；；；从游戏 NPC 到 AI 基础设施， ，，这已经是这家公司的第二次转身。。。。。
官网链接：https://inworld.ai
二、组织模子：用协作结构更强的智能
1、vLLM Semantic Router
一句话先容：vLLM Semantic Router 会先判断请求的难度、风险、本钱和名堂要求， ，，再决议挪用一个模子， ，，照旧组织多个模子分工、验证和合成谜底。。。。。
团队配景：这是 vLLM 生态中的开源研究型项目， ，，现在在 GitHub 上已获 4.9k Star。。。。。在手艺蹊径上， ，，Semantic Router 先抽取领域、难度、清静和上下文等语义信号， ，，再凭证这些信号选择差别的“路由配方”， ，，即可以选择简单模子， ，，也可以运行模子升级、并行集成、重复推理、Fusion 或带有 planner、worker、verifier 的受控事情流。。。。。
为什么值得关注：vLLM Semantic Router 不但是决议“把请求发给谁”， ，，而是决议“这次请求需要怎样的推理历程”。。。。。简朴使命可以直接交给一个低本钱模子；；；；；；不确准时逐级升级；；；；；；重大使命则启动多个模子协作， ，，同时控制预算、并发、超时和回退。。。。。外貌上看， ，，整个历程仍然体现为一次通俗的模子挪用， ，，但深层上代表 Router 从模子选择层进一步进入能力结构层。。。。。
值得思索：本项目意味着 Router 正在肩负原本属于 Agent 框架、推理服务和清静系统的职责。。。。。这样可以镌汰应用层重复搭建事情流， ，，却也可能形成一个很是重大的新中心层。。。。。此类差别路由配方能否在真实营业中稳固提升效果、抵消特殊本钱， ，，仍需要更多自力验证。。。。。
网站链接：https://vllm-semantic-router.com/
2、Sakana Fugu
一句话先容：One Model to Command Them All
Fugu 是一个会组织其他模子事情的模子：它可以自己回覆， ，，也可以凭证使命动态召集多个专家模子， ，，安排分工、检查效果并合成最终谜底。。。。。Fugu 于 2026 年 4 月开放测试， ，，6 月正式宣布。。。。。
团队配景：Fugu 来自日本 Sakana AI。。。。。公司由前 Google 研究员 David Ha、Transformer 论文作者 Llion Jones 等人建设， ，，恒久研究模子合并、群体智能和多智能体协作。。。。。公司于 2025 年 11 月宣布 B 轮融资， ，，并在 2026 年继续扩募， ，，最终融资约 2 亿美元， ，，累计融资约 4.12 亿美元。。。。。此前没有加入 A 轮的 Google， ，，也在这一阶段通过战略投资进入股东名单。。。。。
为什么值得关注：Fugu 延续 Trinity 和 The Conductor 等研究， ，，接纳学习式模子编排：不是预先写死事情流， ，，而是训练一个模子学习何时委派、委派给谁、怎样验证和整合效果。。。。。大都 Router 只是在候选模子中选一个， ，，Fugu 把“怎样使用其他模子”自己酿成了一个模子能力， ，，意味着 Router 可能从分类器或规则系统， ，，生长成能够凭证使命动态天生协作结构的智能调理者。。。。。
值得思索：多模子协作可以提升能力上限， ，，但也会增添挪用本钱、延迟和过失撒播路径。。。。。学习式编排还带来新的黑箱问题：用户很难展望它会挪用几多模子、为什么这样分工， ，，以及能力提升是否值得特殊本钱。。。。。现在来看， ，，Fugu 并不自制， ，，API 和订阅制价钱完全是对标旗舰模子。。。。。同时， ，，Fugu 给人的感受照旧“中转站”， ，，底层能力仍被掌握在 OpenAI、Anthropic 手中。。。。。当上游模子厂商调解价钱、限制挪用， ，，甚至亲自推出类似的多模子调理能力时， ，，Fugu 的壁垒事实有多深？？？？
网站链接：https://sakana.ai/fugu/
三、管住挪用：接入、治理与结算
前两类 Router 回覆的是“这个使命该给谁”。。。。。唬；；；Ｉ杏幸焕嗤婕易龅氖橇硪患事：先成为所有挪用必经的那一层， ，，再决议这一层上长出什么。。。。。对它们来说， ，，路由是入口， ，，不是终点——终点是账单、权限和数据的控制权。。。。。
1、LiteLLM（BerriAI）
一句话先容：LiteLLM 要做的是开源 AI 网关的标准， ，，一个 Python 署理把 100 多家供应商的 API 统一成 OpenAI 名堂， ，，随手接受了路由、限流和本钱记账。。。。。
团队配景：YC W23 项目， ，，首创人 Krrish Dholakia 和 Ishaan Jaffer 原本在做 chat-with-your-data 产品， ，，被各家 API 互不兼容的挪用逻辑折磨， ，，索性把这部分笼统成一个包， ，，2023 年 8 月开源。。。。。融资只有约 160 万美元种子轮， ，，团队至今 10 人左右。。。。。
为什么值得关注：资源效率的极端样本。。。。。10 个人、不到 200 万美元融资， ，，做到 GitHub 超 4.5 万 Star、2.4 亿次 Docker 拉取。。。。 ，，天天路由数亿次 LLM 挪用， ，，客户包括 NASA、Netflix、Adobe、Stripe， ，，招聘页自曝 ARR 已到 700 万美元。。。。。它还在随着协议扩张统领规模， ，，已经兼做 MCP 网关和 Agent-to-Agent 网关——路由的工具从模子悄悄扩展到了工具和智能体。。。。。
值得思索：LiteLLM 证实这一层的手艺门槛不高， ，，高的是默认职位， ，，而开源是拿到默认职位最快的路径：Netflix 的工程师说， ，，新模子宣布后一天内内部就能用上。。。。。价钱同样清晰， ，，今年 3 月它履历了一次供应链清静事务——当你是所有人 AI 栈的单点， ，，你也是所有人的单点故障。。。。。它和 OpenRouter 着实是统一层的两种运气：一个把这层做成收租的市场。。。。 ，，一个做成免费的水电。。。。。最终界说这个品类的会是哪种形态， ，，比谁的算法更智慧更值得追问。。。。。
官网链接：https://litellm.ai
2、nexos.ai
一句话先容：nexos.ai 给企业和所有 LLM 之间加了一其中立中心层， ，，自称“LLM 界的瑞士”。。。。。路由在这里服务的不是省钱， ，，而是清静、合规和数据主权。。。。。
团队配景： Nord Security 两位首创人 Tomas Okmanas 和 Eimantas Sabaliauskas 的二次创业。。。。。2025 年 1 月出 stealth 时拿到 Index Ventures 领投的 800 万美元种子轮， ，，10 月完成 3000 万欧元 A 轮， ，，估值约 3 亿欧元——从 launch 到 3.5 亿美元估值不到一年。。。。。天使名单包括 Datadog、Klarna、Supercell 的 CEO 和 Wix 首创人， ，，近期还宣布了与 CrowdStrike 的相助。。。。。
为什么值得关注：它证实 Router 的买单方纷歧定是 CTO， ，，可以是 CISO 和董事会。。。。。首创人的判断是， ，，员工向 ChatGPT 上传敏感数据正在酿成“史上最大的企业数据泄露”， ，，与其禁用不如做中心人：员工使用 AI Workspace， ，，开发者走 AI Gateway 接入约 200 个模子， ，，网关同时肩负清静、本钱和合规的控制职能。。。。。欧洲的数据主权焦虑给了它一个美国偕行吃不到的市场。。。。 ，，公共机构已经在敲门。。。。。
值得思索：统一个手艺形态， ，，在美国被定价为流量生意， ，，在欧洲被定价为合规生意。。。。。nexos.ai 卖的事实是路由， ，，照旧 合规生意在 AI 时代的复刻——流量经我、战略在我、日志归我？？？？若是是后者， ，，Router 在这里只是壳， ，，真正的产品是治理。。。。。这对判断这一层的终局反而更有价值：路由能力自己不值钱， ，，值钱的是路由带来的位置。。。。。
官网链接：https://nexos.ai
点个“爱心”， ，，再走 吧
