允中 发自 凹非寺量子位 | 公众号 QbitAI
目今视频天下模子在单智能体设定下已经走得相对成熟。。。。
但多智能体场景——多个玩家共享统一个演化天下，，，在架构层面一直缺乏系统性的解决方案。。。。
问题不在于算力不敷，，，而在于现有的位置编码和注重力机制，，，从设计上就没有为多个主体预留接口。。。。
克日，，，NVIDIA联合清华大学、多伦多大学和Vector Institute宣布Gamma-World（γ-World），，，从RoPE扩展和注重力拓扑两个底层组件入手，，，给出了一套系统性的谜底。。。。
论文问题：Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players
为什么多智能体天下建模是一个难题问题
现有视频天下模子险些都建设在单智能体假设之上：
给定一个玩家的行动序列，，，展望该视角下的未来视察。。。。
多智能体设定从基础上改变了这个问题的性子——模子不再只需展望「这个智能体接下来看到什么」，，，而是需要同时回覆：
玩家A的移动应当在玩家B的视野中怎样泛起？？？？？ ？两名玩家同时操作统一个物体，，，状态应当怎样演化？？？？？ ？
这不是「天生N段自力视频」的问题，，，而是「天生N个耦合视角对统一个演化天下的差别投影」。。。。
在手艺层面，，，这意味着模子必需同时维护三重一致性：
时间一致性：画面在时序上连贯；；；；；；跨视角一致性：A在B视野中的泛起与A自身轨迹吻合；；；；；；交互一致性：多个智能体对共享情形的操作在所有视角中爆发一致的状态转变。。。。
单智能体框架在设计上只包管了时间一致性，，，后两者从未被纳入考量——
这是架构层面的结构性缺失，，，无法通过增添数据量或模子规模来填补。。。。
在Gamma-World之前，，，这个偏向并非没有人实验。。。。
Solaris已经在双人Minecraft上取得了不错的效果，，，但它袒露出的两个结构性问题，，，恰恰说明晰为什么将单智能体框架直接「扩展」到多智能体，，，是一条走欠亨的路。。。。
其一，，，身份编码破损了对称性
Solaris为每个玩家分配牢靠的可学习槽位身份向量，，，实质上将「1号槽」和「2号槽」学成了两种差别的角色类型。。。。
在真实的多智能体天下中，，，能力相同的玩家实质上可交流，，，这种对称性的缺失使模子学到的是「特定角色的交互模式」，，，而非「多个一律主体共享天下的纪律」，，，泛化性从基础上受限，，，且一旦需要支持新的玩家数就必需重新训练。。。。
其二，，，全毗连注重力保存扩展性天花板
让所有玩家的token两两直接交互，，，盘算本钱随玩家数目平方增添——
从2人扩展到8人，，，盘算量从477.8G增至7.6T，，，增添约16倍。。。。
这是算法重漂后决议的天花板，，，无法通过工程优化解决。。。。
两个问题指向统一个结论：多智能体天下模子需要的不是修补，，，而是对两个焦点组件的重新设计。。。。
有关怎样体现智能体身份，，，以及怎样设计跨智能体通讯。。。。
焦点设计一：Simplex Rotary Agent Encoding，，，让玩家「身份等距、职位一律」
这个设计要解决的焦点矛盾是：
怎样让模子既能区分差别的玩家，，，又不让任何玩家在体现上比其他玩家「更特殊」。。。。
视频Transformer用RoPE（旋转位置编码）来表达位置关系——给每个信息片断分配一个旋转角度，，，两个片断之间的位置差别通过旋转角度的差来表达。。。。
标准视频RoPE编码三个轴：时间、高度、宽度。。。。
Gamma-World加了第四个轴——玩家轴，，，在不改变原有时空编码的条件下，，，为智能体身份单独留出一个维度。。。。
轴加起来容易，，，难的是这个玩家轴上的编码怎么设计。。。。
直接编号行欠亨。。。。
给玩家顺次号分配角度，，，会导致差别玩家对之间的旋转距离不等：1号和2号差1，，，1号和3号差2。。。。
「1号与2号的关系」和「1号与3号的关系」在体现空间中并不等距，，，只管物理上完全等价。。。。置换对称性被编码方式自己直接破损。。。。
可学习的槽位嵌入也不可。。。。
每个座位绑定一个牢靠的可训练向量，，，模子被锁死在训练时的玩家数目上，，，无法扩展，，，这正是Solaris的焦点局限。。。。
正纯粹形：所有玩家自然等距
Gamma-World的解法很优雅：把所有玩家放在一个正纯粹形（regular simplex）的极点上。。。。
什么意思？？？？？ ？
想象一个正三角形，，，所有极点之间的距离完全相等，，，没有哪个极点更特殊。。。。
2个玩家 → 线段的两头3个玩家 → 等边三角形的三个极点4个玩家 → 正周围体的四个极点
无论哪两个玩家，，，他们在旋转角空间里的距离完全一样。。。。模子看到恣意两个玩家，，，他们之间的几何关系是对称的，，，谁也不比谁特殊。。。。
这个编码不需要任何可学习的参数
训练时，，，活跃玩家被随机分配到极点池里的差别位置，，，模子只能靠几何坐标来认人。。。。
推理时想支持更多玩家，，，从统一个极点池里多取几个极点就行，，，架构不必改，，，也不必重新训练
这也是Gamma-World能做到「双人数据训练、四人场景直接跑通」的基础原因。。。。
焦点设计二：Sparse Hub Attention，，，从「全毗连」到「枢纽广播」
跨智能体通讯是多智能体天下模子绕不过去的需求，，，但以往方案的做法价钱过高——
让所有玩家的所有token两两直接交互，，，盘算本钱随玩家数目平方增添：从2人扩展到8人，，，盘算量从477.8G涨至7.6T，，，增添约16倍。。。。
这是算法重漂后决议的天花板，，，无法通过工程优化解决。。。。
问题的泉源在于一个过失的假设：每个token级别的细节都需要在所有玩家之间直接转达。。。。
事实上，，，玩家A放下方块，，，玩家B需要感知的只是「天下里泛起了一个方块」——这是一个紧凑的天下状态转变，，，而非A的所有视觉细节。。。。
但玩家之间真的需要「直接语言」吗？？？？？ ？
全毗连注重力隐含了一个假设：每个token级别的细节都需要在所有玩家之间直接转达。。。。而这个假设在绝大大都场景下是过失的。。。。
Gamma-World引入一组可学习的hub token（枢纽token），，，组成轮辐式拓扑：
每个智能体只与自身历史及hub token交互；；；；；；hub token汇聚所有智能体的信息压缩为共享状态摘要，，，再广播回各智能体流；；；；；；差别智能体之间的直接注重力被完全屏障，，，信息经由两跳转达：智能体→hub→智能体
这一结构将盘算本钱从平方重漂后压至线性重漂后。。。。
△Sparse Hub Attention（蓝线）vs Dense Attention（红线），，，随玩家数目增添FLOPs差别靠近8倍
值得强调的是，，，希罕枢纽注重力不但是节约了算力，，，它自己也是一个更合理的归纳偏置——在架构层面显式编码了「跨智能体信息应经由共享天下状态瓶颈」这一先验，，，而非期待模子从数据中隐式学习。。。。
推理时通过自力的KV cache保存希罕通讯拓扑，，，最终实现24 FPS实时行动响应推演
要领总览
（注：要领总览，，，左侧为同步多智能体输入，，，中心为Tokenization，，，右侧为Causal Multi-Agent DiT，，，下方划分展示Simplex Rotary Agent Encoding和Sparse Hub Attention的示意图）
整体架构输入同步的多智能体视察和行动序列，，，用共享的视觉编码器和行动编码器对每个玩家流划分tokenize，，，再通过带希罕枢纽注重力的因果多智能体DiT天生未来多路rollout。。。。
推理时使用KV cache实现流式天生，，，每个玩家流和枢纽各维护自力缓存。。。。
焦点设计三：三阶段蒸馏，，，从「看得全」到「跑得快」
天生质量和推理实时性在扩散模子里自然是一对矛盾：双向模子质量最高但无法流式推理，，，因果模子支持实时天生但质量下降。。。。
Gamma-World用三阶段训练在两者之间架桥。。。。
第一阶段：逊Й向西席。。。。
西席模子可会见完整序列（包括未来。。。。，，，提供最高质量的生身漫衍，，，仅用于训练阶段，，，不加入推理。。。。
第二阶段：训练因果学生。。。。
学生模子只能看到目今及已往的帧，，，连系希罕枢纽注重力适配流式推理。。。。
要害在于将学生完整训练为多步扩散模子，，，而非仅作为蒸馏热身——蒸馏之前学生已能爆发合理的推演效果，，，为下一阶段提供稳固起点。。。。
第三阶段：条件Self-Forcing蒸馏。。。。
以因果学生为起点、双向西席为目的，，，通过漫衍匹配蒸馏（DMD）将多步采样压缩为4步采样
蒸馏在自回归self-rollout下举行，，，训练漫衍与推理漫衍对齐，，，有用缓解误差累积。。。。
全程保存初始帧与逐智能体行动序列作为条件信号，，，确保压缩后的模子行动可控性不退化，，，最终实现24 FPS流式推演
实验效果
1、周全逾越现有最强
在多人Minecraft情形的五类场景中，，，比照帧拼接方案和现在最强的多智能体天下模子Solaris，，，Gamma-World在影象、空间定位、移动、制作、跨视角一致性五个场景周全领先，，，要害指标FVD（视频天生质量的评估指标）平均降幅凌驾40%。。。。
2、消融：每一步设计都有现实效果
消融效果说明从「学习槽位身份」换成「纯粹形编码」，，，FVD从256.3降至228.5，，，没有增添任何参数，，，仅通过改变编码方式就带来了整个消融中最大的单步增益
这个效果的意义不但是「纯粹形编码更好」，，，而是证实晰一件更基础的事：
在架构中显式编码置换对称性约束，，，比让模子从数据中隐式学习这种结构，，，在样本效率和最终性能上都有显著优势
对称性是一个先验知识，，，把先验知识编进架构比让模子自己去发明，，，原来就更有用率——消融实验用数字验证了这一点。。。。
3、双人训练，，，四人直接跑通
△零样本四人泛化，，，模子仅用双人数据训练，，，推理时直接天生四路同步视角
模子仅在双人数据上训练，，，推理时从极点池中启用两个新极点，，，直接天生四路同步视角，，，无需修改任何架构参数，，，四路画面维持共享天下状态的一致性。。。。
这个效果直接验证了纯粹形编码的焦点设计目的：泛化到恣意玩家数，，，不需要见过谁人玩家数的训练数据。。。。
无论是Solaris、Enigma Labs的Multiverse照旧Odyssey的Agora-1，，，这些事情都证实晰多智能体天下模子可以做，，，但同时都缺乏这样的拓展泛化能力。。。。
4、两种典范使命的定性展示
△两智能体交互示例——两路视角坚持同步，，，Agent 1的行为在Agent 2的视角中被准确反映
在「放置与挖掘」使命中，，，两路视角实时同步，，，一方的操作在另一方画面中获得准确反映。。。。
在「制作塔楼」使命中，，，双方协同搭建的方块在各自视角里位置一致，，，共享天下状态完整维护。。。。
当玩家暂时移出对方视野时，，，模子仍能维持准确的空间定位——这说明模子追踪的是共享的潜在天下状态，，，而非自力天生各路视频后拼在一起。。。。
5、从游戏到真实机械人
△从游戏agent到真实双臂机械人协同，，，模子天生坚持协同运动的未来帧
研究团队将Gamma-World应用于RealOmin-Open数据集的真实双臂机械人协同使命，，，以左右两条机械臂划分作为自力智能体。。。。
天生的未来帧坚持了双臂的协同运动与空间结构，，，统一套框架从Minecraft多人场景直接迁徙至真实物理操作，，，无需特殊适配。。。。
这一效果验证了多智能体天下模子框架自己的通用性，，，而非针对特定场景的专项方案。。。。
这也让人忍不住往更远处想：现实天下中险些所有有价值的场景，，，实质上都是多个主体在共享情形中协作或博弈——手术室里的多臂协同、工厂产线上的多机械人调理、自动驾驶中的多车交互。。。。
若是一套统一的多智能体天下模子框架能够笼罩这些场景，，，它所代表的就不但是仿真能力的提升，，，而是为整个Physical AI领域提供了一个全新的数据生产和战略训练基础设施。。。。
Gamma-World的三项焦点设计，，，纯粹形旋转智能体编码、希罕枢纽注重力、条件师生蒸馏，，，划分对应多智能体天下建模中三个恒久悬而未决的问题：
身份的对称体现、交互的高效建模、质量与实时性的同时兼顾。。。。
每一项都不是修补，，，而是在确认原有路径走欠亨之后，，，从更底层的建模原则重新给出的谜底。。。。
三项设计背后有一个配合的要领论：将对问题结构的明确直接编码进架构，，，而非期待模子从数据中自行发明。。。。
一个真正明确多智能体天下的模子，，，应当在结构上就是对称的，，，而不是见过足够多的数据之后，，，恰巧学出了近似对称的行为。。。。
前者是明确，，，后者只是拟合。。。。
Gamma-World零样本泛化到四人场景的效果，，，正是对这一判断最直接的实验验证。。。。
这一要领论也指向一个更大的可能性：当多智能体天下模子的天生质量足以忠实还原真实物理纪律，，，训练数据的收罗方式自己就会爆发根天性转变——
从依赖真实场景的物理收罗，，，转向由神经网络驱动的大规模模拟天生
受限于人力、空间和时间的数据瓶颈，，，将有可能被无限可扩展的神经仿真所替换。。。。
从方块天下到机械臂，，，Gamma-World迈出的是验证性的第一步。。。。
真正的天下模子，，，学会的不应只是「画面」，，，而是「规则」。。。。
论文：Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players机构：NVIDIA/清华大学/多伦多大学/Vector Institute项目主页：https://research.nvidia.com/labs/sil/projects/gamma-world/GitHub：https://github.com/nv-tlabs/Gamma-WorldHuggingface: https://huggingface.co/papers/2605.28816
中新网南宁6月9日电 (陈秋霞 周也茹)广西壮族自治区水文中心9日提供的信息显示，，，6月8日8时至9日8时，，，受强降雨及上游来水影响，，，广西共有桂江支流桃花江、龙坪河，，，洛清江支流四塘河、西河，，，柳江上游都柳江，，，湘江上游，，，贺江上游及支流大宁河、马尾河等12条河流14个水文站泛起超警0.01米至0.92米的洪水。。。。