多智能体协作关于解决重大问题虽然具有重大优势,,可是其架构实质上易泛起过失撒播,,由于由不准确的事情流天生或单智能体幻觉输出引起的过失会沿着协作链伸张,,影响最终效果。。。
从 CAMEL、AutoGen、MetaGPT 等依赖人工设置的多智能体框架,,到 ADAS、AFlow、AgentSquare、AgentSwift 等自动化事情流天生系统,,多智能体手艺正在从 “人工设计” 迈向 “自主优化”。。。然而,,现有要领大多基于启发式战略搜索,,其性能上限往往受到搜索战略与规则设计的限制。。。怎样让智能体能够自主发明更优协作模式,,仍然是推动多智能系一切迈向更高智能水平的要害挑战。。。
为此,,openJiuwen 研究职员提出了 MANGO(Multi-Agent Network Gradient Optimization)框架。。。其要领设计归属于华为 JiuwenSwarm 的研究领域。。。在 AgentOS 统一执行与调理底座支持下,,该框架一体化建模多智能系一切结构、使命剖析与路径选择,,实现端到端协作优化,,并在整体事情流层面临协作路径与执行战略举行联合优化,,从而提升系统稳固性与效率。。。
焦点特征包括:端到端的强化学习优化包管全局目的告竣,,文本梯度更新使局部节点能无邪顺应动态使命,,以及节点跳跃机制在坚持准确性的同时显著降低盘算开销。。。这种集成设计体现了在重大使命中多智能体协作的工程化头脑,,为提升协作效率和系统稳固性提供了可行方案。。。
论文问题:Reinforced Collaboration in Multi-Agent Flow Networks作者信息:Zheng Wang, Yuang Liu, Yangkai Ding作者单位:华为泊松实验室、维纳研究所(NWRC)论文链接:https://arxiv.org/abs/2605.12943客栈链接:https://github.com/openJiuwen-ai/agent-store/tree/main/community/mango
焦点思绪
整体框架接纳数据驱动战略,,使用历史履历通过历程监视强化学习动态学习事情流结构。。。同时,,局部梯度信号被融入文本梯度举行反向撒播,,从而实现框架的一连迭代优化。。。
MANGO 的构建主要包括三个方法:1)构建流网络,,2)基于强化学习选择最优路径,,3)使用文本梯度优化节点内的提醒词。。。别的,,框架引入节点跳跃机制,,在包管性能的条件下显著降低盘算开销。。。
图 1:MANGO 整体框架。。。该框架通过战略梯度联合优化路径选择,,并通过文本梯度联合优化提醒,,跳过某些节点以降低盘算本钱。。。
1. 流网络构建
事情流中的每个行动被迭代地插入到流网络中。。。该历程确保相邻操作不会放置在统一个节点中,,以坚持事情流转换的完整性。。。后续每个行动的插入都基于其与现有节点集的相似度,,相似度界说为该行动与节点内恣意节点之间的向量相似度。。。
若是相似度低于阈值,,则在网络中建设一个新节点;;反之,,将其插入到相似度最高的现有节点中。。。每个节点都分配一个差别的大模子,,代表一个具有特定大模子的智能体,,以形成一个多智能系一切。。。
2. 基于强化学习的边优化
系统给定一个基于历史事情流构建的流程网络后,,目的则是从源点到汇点选择响应的智能体来解决重大使命剖析出的子使命。。。MANGO 使用强化学习来优化流网络中的边选择。。。目今节点关于其邻边的选择可以被看作马尔可夫决议历程:
1) 状态(State):目今节点的问题内容与角色形貌和邻节点的内容与角色形貌交替盘算得出的向量相似度。。。
2) 行动(Action):选择目今节点的差别邻边。。。
3) 奖励(Reward):综合思量历程层面的准确性和最终使命体现,,两者基于一个系数分配比例。。。
4) 战略(Policy):使用 REINFORCE 算法优化战略网络,,以最大化预期累积奖励。。。
3. 基于文本梯度的节点优化
另一方面,,关于每一个节点,,其包括的使命内容与角色形貌都会同时基于最终使命效果(全局信号)和中心执行反。。。ň植啃藕牛,,使用文本梯度来更新提醒词,,确保当事情流路径较长时,,梯度信号不会在较早的节点消逝。。。
强化学习边优化与文本梯度节点优化的相互依赖性:更新节点的提醒词会修改状态的内容(包括角色形貌和妄想方法),,这将会直接影响路径选择战略;;反之,,采样路径决议了流网络中哪些节点的提醒词会被现实更新。。。这就在参数更新和路径选择之间形成了一个相互依赖的优化循环。。。
4. 节点跳跃
优化事情流路径的盘算本钱很高,,这主要是由于需要重复挪用大模子来更新每个节点的提醒词。。。履历批注,,一旦某个节点的提醒信息获得充分优化,,进一步更新带来的收益就微乎其微了。。。
为相识决这个问题,,研究团队引入了一种跳跃机制,,该机制在优化历程中选择性地跳过某些节点,,从而降低盘算开销。。。若是跳过一个或多个节点,,框架则会使用训练事情流中的方法来填充它们对应的输出。。。这样做的目的是重用真实中心方法来监视被跳过的节点,,从而在不举行特殊动态天生的情形下提高训练效率和稳固性。。。该跳跃机制通过一个 Skip-k 参数控制,,每次可跳跃最多 k 步(无跳跃时为 Skip-1)。。。
视频链接:https://mp.weixin.qq.com/s/Eleh8ZlAVYpgV_4MCq_2vQ
为了展示 MANGO 在现实营业中的应用潜力,,研究团队还提供了一个金融营业场景的演示 Demo,,通过多智能体协作处理重大流程,,详细演示了框架在现实中怎样优化事情流路径和节点提醒词,,从而提升整体效率和准确性。。。
实验数据
为了评估 MANGO 框架在差别领域的体现,,研究团队选择了 7 个数据集,,包括代码编写使命(HumanEval、MBPP)、数学解题(MATH500、GSM8K)、文章阅读明确(DROP)以及多领域问题回覆(MMLU、GPQA-Diamond)。。。由于框架在构图与训练历程中需要借助以往乐成的事情流,,团队基于训练集的问题天生了相关事情流,,以支持准确解答,,并将这些事情流与对应问题一并生涯在数据集中。。。
实验中,,论文主要以 GPT-4o-mini 作为基础大模子,,评估指标包括 HumanEval 和 MBPP 的 pass@1、MATH、GSM8K、MMLU 和 GPQA 的 Accuracy,,以及 DROP 的 F1-score。。。
实验效果
表 1:以 GPT-4o-mini 为基础大模子的有用性效果。。。最佳效果以绿色配景的粗字体显示,,最佳基线效果以下划线标出。。。
1)与基线要领的有用性较量
总体而言,,MANGO 在所有领域均体现最佳,,逾越了最佳基线模子,,例如,,在 MATH500 使命上的准确率比 MaAS 提升了 12.8%,,在 DROP 使命上的 F1-score 比 AFlow 提升了 5.1%。。。这些提升源于 MANGO 从过往事情流中学习,,并联合优化事情流天生和单智能体执行,,纵然在 Skip-2 设置下也坚持领先优势。。。
表 2:MANGO 与基线要领在数据集 MATH500 上的效率较量
2)效率和训练 / 推理本钱
基于基础大模子 GPT-4o-mini 和数据集 MATH500,,MANGO 连系节点跳跃手艺实现了最佳本钱效益,,在坚持最高准确率的同时,,降低了 token 使用量、API 本钱和运行时间。。。在流网络遍历历程中启用三节点跳跃(Skip-3),,MANGO 的 API 本钱最低(每百万个 prompt token 0.15 美元,,每百万个 completion token 0.6 美元)。。。与 MaAS 相比,,训练时间缩短了 41.5%,,推理时间缩短了 47.4%,,并坚持了最高的准确率。。。效果批注,,所提出的算法可以极洪流平降低本钱。。。
MANGO,,是一个数据驱动的框架,,它构建一个流程网络,,集成强化学习、文本梯度和跳跃机制以实现高效优化。。。该框架针对多智能体协作中的误差撒播,,事情流天生和单智能体执行中的误差作出了响应刷新,,为多智能系一切设计提供了新的思绪。。。
黄心宇坦言,,目今,,立异药研发加速突破。。。去年,,国家药监局批准上市的一类立异药品数目抵达76个,,部分药品在同领域同靶点的同质化竞争强烈。。。医保谈判所支持的立异,,必需是能够体现临床疗效的真立异。。。