凯时AG

环球热门新闻资讯
2026-07-23 07:06:42
首页 > 新闻 > 时政要闻 > 正文

月之暗面联合首创人张宇韬:Agent工程的演进之路

本文来自微信公众号: 潮涌AI ,,, ,,,作者:潮涌AI编辑部

当大模子从单次问答的对话工具,,, ,,,逐步走向能够自主妄想、循环执行、长时间完成重大使命的Agent,,, ,,,整个行业关于AI工程化的刷新重心也在一连迁徙。。。。。。

现在,,, ,,,行业真正要攻克的命题,,, ,,,是搭建一套完整运行情形,,, ,,,支持模子自主完成小时级闭环使命。。。。。。

大模子自身的明确、推理、妄想能力一连涌现,,, ,,,与之配套的工程要领论也要同步完成迭代。。。。。。

7月3日,,, ,,,月之暗面联合首创人张宇韬在“2026全球数字经济大会人工智能融合应用生长论坛”上揭晓了《从Prompt到Harness,,, ,,,Agent工程的演进之路》主题演讲,,, ,,,完整梳理了大模子三段手艺演进脉络,,, ,,,连系团队落地Agent的实践履历,,, ,,,拆解新一代Agent工程的底层逻辑、焦点原则与恒久生长思绪。。。。。。

以下是张宇韬演讲实录,,, ,,,经潮涌AI整理宣布:

三个热词:

Prompt→Context→Harness Engineering

很是幸运能够来这里分享,,, ,,,模子厂商关于AI工程化以及整个AI构建Agent实践中的Know-how。。。。。。

大模子从2023年生长到现在,,, ,,,着实履历了许多一直迭代的历程。。。。。。

整个旅程中有三个热词:

2023年ChatGPT刚宣布的时间,,, ,,,我们一直在强调的看法是Prompt Engineering。。。。。。

2024年演化到Context Engineering。。。。。。

到2026年,,, ,,,现在最热的一个词叫HarnessEngineering。。。。。。

这三个词意味着什么?????

第一,,, ,,,我们要问问题。。。。。。怎样在聚焦的情形下,,, ,,,在有限的上下文中把问题讲清晰,,, ,,,让AI能够精准回覆——这是PromptEngineering。。。。。。

第二,,, ,,,ContextEngineering。。。。。。当上下文空间、模子的窗口扩展以后,,, ,,,我们怎样能够去提供更充分、更精准的信息,,, ,,,让模子完成更重大的使命。。。。。。

第三,,, ,,,Harness Engineering。。。。。。随着模子能力一直提升,,, ,,,模子已经不局限完成单轮使命、回覆一个问题,,, ,,,而是可以做一个小时级别以上的重大使命。。。。。。你怎样让它通过一个循环历程,,, ,,,一直自我探索,,, ,,,最终完成。。。。。。

1、2023:Prompt Engineering时代,,, ,,,4K上下文的局限

我们把时间回到2023年。。。。。。

谁人时间点,,, ,,,面临ChatGPT刚宣布,,, ,,,我们有一个很疑心的地方:它只支持4K的上下文空间。。。。。。在这样的上下文空间,,, ,,,你能够做的事情很是局限。。。。。。你需要很是精妙地使用这个空间,,, ,,,把你的问题提出来,,, ,,,把你的使命安排下去。。。。。。

以是,,, ,,,谁人时间我们一直强调怎样做好PromptEngineering。。。。。。实质就是在有限的上下文空间中,,, ,,,怎样更精准地把问题安排给模子,,, ,,,让它完成。。。。。。并且谁人时间模子的智力是有限的,,, ,,,以是你怎样适配模子关于Prompt的明确很是主要。。。。。。

2、2024:ContextEngineering时代,,, ,,,工具挪用进入上下文

时间来到2024年。。。。。。谁人时间各个模子的上下文窗口最先扩展了,,, ,,,从4K到32K到128K,,, ,,,甚至是1兆以上的上下文窗口。。。。。。并且模子能力有一定提升以后,,, ,,,我们最先实验让模子不但是回覆问题,,, ,,,而是做一些更重大的使命。。。。。。

这个时间我们引入了上下文工程的看法。。。。。。我们要把工具的挪用聚焦到上下文空间中,,, ,,,让模子给它足够的信息和很好的组织,,, ,,,让它使用外部信息,,, ,,,就可以让模子完成更重大的使命。。。。。。这是这个阶段我们聚焦的事情。。。。。。

3、2026:Harness Engineering时代,,, ,,,小时级使命的拐点

随着模子能力的一直提升,,, ,,,我们看到一个拐点。。。。。。

原来的模子能力有限,,, ,,,关于指令的遵照能力有限,,, ,,,关于明确一个长使命能力有限,,, ,,,它能够完因素钟级别的使命——这个分钟级别的使命通常在一个上下文空间中能够体现清晰。。。。。。

现在我们看到模子有充分能力可以做小时级别以上的使命。。。。。。这个情形下,,, ,,,我们必需给模子一个更好的情形空间,,, ,,,让它充分验展自己的能力。。。。。。

这个时间点,,, ,,,模子的局限已经不再于模子能力自己,,, ,,,而是在于怎样给它足够好的空间让它可以施展。。。。。。

这个情形我们思索怎样结构一个情形去驱动它,,, ,,,让它在闭环中自己解决问题。。。。。。这就是所谓的Harness Engineering。。。。。。

听起来是很漂亮的词,,, ,,,但所谓的Agent实质上很是简朴,,, ,,,着实就是一个循环。。。。。。

关于代码开发职员就是一个while循环。。。。。。这个模子没有解决的时间,,, ,,,它自己探索下一步应该做什么,,, ,,,自己决议下一步应该做什么,,, ,,,然后执行这个决议,,, ,,,然后看是不是告竣效果。。。。。。若是遇到了过失,,, ,,,它想怎样从过失中恢复过来,,, ,,,是不是让人介入解决这些问题。。。。。。最终看有没有解决问题——若是这个问题已经被解决,,, ,,,使命完成了就竣事循环;;; ;;若是没有解决,,, ,,,继续循环。。。。。。

这就是Agent工程,,, ,,,它着实都在解决这一个问题。。。。。。

脚手架哲学:模子能力提升后实时撤掉

我们需要做的就是在这个循环内更好地界说Agent框架,,, ,,,让它在充分清静的情形中自由探索,,, ,,,并且让它发明怎样去解决,,, ,,,给它足够好的工具,,, ,,,可以让它去施展。。。。。。

以是,,, ,,,这三个看法,,, ,,,不是三个完全自力的看法,,, ,,,着实是一个递进的看法,,, ,,,甚至是一个包括的看法。。。。。。

现在整个Agent工程中,,, ,,,我们需要思量怎样设计好Prompt,,, ,,,让它更清晰地让模子明确用户意图。。。。。。同时我们做好Context,,, ,,,把外部工具、更好的工具可以注入进来、组织好,,, ,,,让它充分明确。。。。。。最终构建一个更好的Harness,,, ,,,让它以很是自信、很是自洽的方式来执行。。。。。。

前面生数科技首创人朱军先生提到了Bitter Lesson的看法。。。。。。

这是我们所有做模子的人一直思索的问题:怎样让一个更通用的方式解决所有的问题,,, ,,,而不是用人工的方式去适配、一直去界说它。。。。。。由于通常来说,,, ,,,随着模子的一直提升,,, ,,,那些人工的界说通常都会失效,,, ,,,甚至成为肩负。。。。。。

以是,,, ,,,我们自己在做AI工程的时间也会思索这样的问题。。。。。。

有一个误区:我们需要精妙地设计一个框架来让模子施展得很好。。。。。。可是现实上真正的历程并不是这样。。。。。。真正的历程是用模子的界线、能力界线来界说究竟这个框架怎么实现。。。。。。

在这个历程中,,, ,,,我们通;;; ;;嵴饷词褂茫合裙菇ㄕ庋目蚣埽,, ,,,让模子最先试探,,, ,,,发明能力界线,,, ,,,发明有什么问题。。。。。。

当它有问题的时间,,, ,,,我们引入一些脚手架,,, ,,,这些脚手架可以让它拔高一点,,, ,,,在现有能力下做凌驾它能力的事情。。。。。。随着模子一直提升,,, ,,,这些脚手架实时撤掉,,, ,,,这样它未来不会成为模子的累赘。。。。。。

举个例子。。。。。。

随着模子能力提升,,, ,,,我们视察到,,, ,,,小模子已经成为整个链路中的一个瓶颈。。。。。。

由于一个小模子,,, ,,,好比几百兆或者1B的小模子,,, ,,,它的智力远远不如上TB的大模子的智力。。。。。。它做一个前置判断,,, ,,,可能会导致整个问题的准确率成为所有人的瓶颈。。。。。。

模子可以完成很是重大的多轮搜索的使命,,, ,,,甚至解决人都欠好解决的问题。。。。。。

这是一个很是主要的视察,,, ,,,也是很是切合Bitter Lesson的原则。。。。。。

Agent工程的四个焦点原则

迭代这些AI工程的时间,,, ,,,我们也在思索。。。。。。

这个范式很是简朴:不管视察目今状态下,,, ,,,这个模子有没有解决问题,,, ,,,去思索我应该怎么解决这个问题,,, ,,,去执行,,, ,,,发明问题以后怎样给它过失的回馈机制,,, ,,,最终一直循环。。。。。。

模子的能力是一个一直涌现的历程。。。。。。

我们没法很早界说现在的状态应该用什么解决方案,,, ,,,甚至我明确关于整个天下最头部的这些AI公司,,, ,,,他们也没有准确谜底。。。。。。由于某些能力是迭代中一直涌现出来的。。。。。。

这个情形之下,,, ,,,我们不应该限制框架应该做什么,,, ,,,而是随着模子的前进,,, ,,,我们给它更好的助力,,, ,,,并且找到它当下的界线。。。。。。

这也是我们自己做AI工程、做Agent工程的时间总结出来的原则:

第一,,, ,,,适才提到Agent实质就是一个很简朴的工具,,, ,,,我们不要给它增添重大性。。。。。。

第二,,, ,,,怎样把对的信息、合适的信息、更主要的信息放进上下文,,, ,,,使用好这个窗口。。。。。。这是它最主要的事情,,, ,,,是决议模子能力能不可施展的事情。。。。。。

第三,,, ,,,我们要很好地设计这些工具。。。。。。所谓的工具关于模子来说,,, ,,,就像编程中的接口设计一样,,, ,,,需要足够清晰,,, ,,,不可有歧义。。。。。。否则这些工具,,, ,,,模子用欠好,,, ,,,甚至还会给模子增添肩负。。。。。。

第四,,, ,,,关于模子的影象系统,,, ,,,它没有完善的解决方案。。。。。。由于模子上下文空间有限,,, ,,,并且关于上下文空间的掌控能力也有限,,, ,,,以是,,, ,,,在一致性和创立性之间需要做一个权衡。。。。。。这个历程中,,, ,,,可以选择把所有的信息放在上下文中,,, ,,,让它一直自我生长;;; ;;也可能引入一些压缩的机制,,, ,,,包括总结的机制,,, ,,,或者是一些筛选的机制,,, ,,,让它可以更精准地去掷中一些更主要的信息。。。。。。这着实是我们在实践中一直探索的事情。。。。。。

权衡Agent的价值:人类有多信任它

适才提到Bitter Lesson,,, ,,,我们让模子自由探索、自由试错、去反。。。。。。,, ,,,基于反馈去一直衍生、一直自我生长,,, ,,,会优于我们用精妙的设计来预定好一个框架让它去执行。。。。。。

最后一点,,, ,,,先做一个最好的闭环,,, ,,,让模子先在闭环中跑起来,,, ,,,在这个历程中自然生长,,, ,,,而不是预先思索怎样结构一个重大系统。。。。。。

这是我们做好Agent的历程中的焦点思绪。。。。。。

我们权衡一个Agent的价值,,, ,,,不再是单次实践能够做出最强能力的工具,,, ,,,而是我们人类有没有信任给它,,, ,,,让它可以去做重大的使命。。。。。。

着实权衡一个模子的价值,,, ,,,人类越自信地可以松手让它做,,, ,,,它的价值就更高。。。。。。

这个历程中,,, ,,,我们怎样构建一个足够好的情形,,, ,,,让人类可以充分信任,,, ,,,模子可以充分验展,,, ,,,并且不会搞砸事情,,, ,,,让自我探索的能力施展到极致——这就是我们以为最有价值的Agent。。。。。。

整个Agent工程中,,, ,,,焦点解决这个问题:怎样让人越发信任Agent去自由地施展。。。。。。

以上就是我们自己,,, ,,,无论是模子迭代照旧AI工程迭代中,,, ,,,我们自己的思索。。。。。。很是谢谢各人!

本内容由作者授权宣布,,, ,,,看法仅代表作者自己,,, ,,,不代表虎嗅态度。。。。。。如对本稿件有异议或投诉,,, ,,,请联系 tougao@huxiu.com。。。。。。

本文来自虎嗅,,, ,,,原文链接:https://www.huxiu.com/article/4873532.html?f=wyxwapp

熟悉中国社会和中华文化的主要窗口

责任编辑:骆秀佩

【网站地图】