允中 发自 凹非寺量子位 | 公众号 QbitAI
目今视频天下模子在单智能体设定下已经走得相对成熟。。。。
但多智能体场景——多个玩家共享统一个演化天下，，在架构层面一直缺乏系统性的解决方案。。。。
问题不在于算力不敷，，而在于现有的位置编码和注重力机制，，从设计上就没有为多个主体预留接口。。。。
克日，，NVIDIA联合清华大学、多伦多大学和Vector Institute宣布Gamma-World（γ-World），，从RoPE扩展和注重力拓扑两个底层组件入手，，给出了一套系统性的谜底。。。。
论文问题：Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players
为什么多智能体天下建模是一个难题问题
现有视频天下模子险些都建设在单智能体假设之上：
给定一个玩家的行动序列，，展望该视角下的未来视察。。。。
多智能体设定从基础上改变了这个问题的性子——模子不再只需展望「这个智能体接下来看到什么」，，而是需要同时回覆：
玩家A的移动应当在玩家B的视野中怎样泛起？？？？？？两名玩家同时操作统一个物体，，状态应当怎样演化？？？？？？
这不是「天生N段自力视频」的问题，，而是「天生N个耦合视角对统一个演化天下的差别投影」。。。。
在手艺层面，，这意味着模子必需同时维护三重一致性：
时间一致性：画面在时序上连贯 ；；；；跨视角一致性：A在B视野中的泛起与A自身轨迹吻合 ；；；；交互一致性：多个智能体对共享情形的操作在所有视角中爆发一致的状态转变。。。。
单智能体框架在设计上只包管了时间一致性，，后两者从未被纳入考量——
这是架构层面的结构性缺失，，无法通过增添数据量或模子规模来填补。。。。
在Gamma-World之前，，这个偏向并非没有人实验。。。。
Solaris已经在双人Minecraft上取得了不错的效果，，但它袒露出的两个结构性问题，，恰恰说明晰为什么将单智能体框架直接「扩展」到多智能体，，是一条走欠亨的路。。。。
其一，，身份编码破损了对称性
Solaris为每个玩家分配牢靠的可学习槽位身份向量，，实质上将「1号槽」和「2号槽」学成了两种差别的角色类型。。。。
在真实的多智能体天下中，，能力相同的玩家实质上可交流，，这种对称性的缺失使模子学到的是「特定角色的交互模式」，，而非「多个一律主体共享天下的纪律」，，泛化性从基础上受限，，且一旦需要支持新的玩家数就必需重新训练。。。。
其二，，全毗连注重力保存扩展性天花板
让所有玩家的token两两直接交互，，盘算本钱随玩家数目平方增添——
从2人扩展到8人，，盘算量从477.8G增至7.6T，，增添约16倍。。。。
这是算法重漂后决议的天花板，，无法通过工程优化解决。。。。
两个问题指向统一个结论：多智能体天下模子需要的不是修补，，而是对两个焦点组件的重新设计。。。。
有关怎样体现智能体身份，，以及怎样设计跨智能体通讯。。。。
焦点设计一：Simplex Rotary Agent Encoding，，让玩家「身份等距、职位一律」
这个设计要解决的焦点矛盾是：
怎样让模子既能区分差别的玩家，，又不让任何玩家在体现上比其他玩家「更特殊」。。。。
视频Transformer用RoPE（旋转位置编码）来表达位置关系——给每个信息片断分配一个旋转角度，，两个片断之间的位置差别通过旋转角度的差来表达。。。。
标准视频RoPE编码三个轴：时间、高度、宽度。。。。
Gamma-World加了第四个轴——玩家轴，，在不改变原有时空编码的条件下，，为智能体身份单独留出一个维度。。。。
轴加起来容易，，难的是这个玩家轴上的编码怎么设计。。。。
直接编号行欠亨。。。。
给玩家顺次号分配角度，，会导致差别玩家对之间的旋转距离不等：1号和2号差1，，1号和3号差2。。。。
「1号与2号的关系」和「1号与3号的关系」在体现空间中并不等距，，只管物理上完全等价。。。。置换对称性被编码方式自己直接破损。。。。
可学习的槽位嵌入也不可。。。。
每个座位绑定一个牢靠的可训练向量，，模子被锁死在训练时的玩家数目上，，无法扩展，，这正是Solaris的焦点局限。。。。
正纯粹形：所有玩家自然等距
Gamma-World的解法很优雅：把所有玩家放在一个正纯粹形（regular simplex）的极点上。。。。
什么意思？？？？？？
想象一个正三角形，，所有极点之间的距离完全相等，，没有哪个极点更特殊。。。。
2个玩家 → 线段的两头3个玩家 → 等边三角形的三个极点4个玩家 → 正周围体的四个极点
无论哪两个玩家，，他们在旋转角空间里的距离完全一样。。。。模子看到恣意两个玩家，，他们之间的几何关系是对称的，，谁也不比谁特殊。。。。
这个编码不需要任何可学习的参数
训练时，，活跃玩家被随机分配到极点池里的差别位置，，模子只能靠几何坐标来认人。。。。
推理时想支持更多玩家，，从统一个极点池里多取几个极点就行，，架构不必改，，也不必重新训练
这也是Gamma-World能做到「双人数据训练、四人场景直接跑通」的基础原因。。。。
焦点设计二：Sparse Hub Attention，，从「全毗连」到「枢纽广播」
跨智能体通讯是多智能体天下模子绕不过去的需求，，但以往方案的做法价钱过高——
让所有玩家的所有token两两直接交互，，盘算本钱随玩家数目平方增添：从2人扩展到8人，，盘算量从477.8G涨至7.6T，，增添约16倍。。。。
这是算法重漂后决议的天花板，，无法通过工程优化解决。。。。
问题的泉源在于一个过失的假设：每个token级别的细节都需要在所有玩家之间直接转达。。。。
事实上，，玩家A放下方块，，玩家B需要感知的只是「天下里泛起了一个方块」——这是一个紧凑的天下状态转变，，而非A的所有视觉细节。。。。
但玩家之间真的需要「直接语言」吗？？？？？？
全毗连注重力隐含了一个假设：每个token级别的细节都需要在所有玩家之间直接转达。。。。而这个假设在绝大大都场景下是过失的。。。。
Gamma-World引入一组可学习的hub token（枢纽token），，组成轮辐式拓扑：
每个智能体只与自身历史及hub token交互 ；；；；hub token汇聚所有智能体的信息压缩为共享状态摘要，，再广播回各智能体流 ；；；；差别智能体之间的直接注重力被完全屏障，，信息经由两跳转达：智能体→hub→智能体
这一结构将盘算本钱从平方重漂后压至线性重漂后。。。。
△Sparse Hub Attention（蓝线）vs Dense Attention（红线），，随玩家数目增添FLOPs差别靠近8倍
值得强调的是，，希罕枢纽注重力不但是节约了算力，，它自己也是一个更合理的归纳偏置——在架构层面显式编码了「跨智能体信息应经由共享天下状态瓶颈」这一先验，，而非期待模子从数据中隐式学习。。。。
推理时通过自力的KV cache保存希罕通讯拓扑，，最终实现24 FPS实时行动响应推演
要领总览
（注：要领总览，，左侧为同步多智能体输入，，中心为Tokenization，，右侧为Causal Multi-Agent DiT，，下方划分展示Simplex Rotary Agent Encoding和Sparse Hub Attention的示意图）
整体架构输入同步的多智能体视察和行动序列，，用共享的视觉编码器和行动编码器对每个玩家流划分tokenize，，再通过带希罕枢纽注重力的因果多智能体DiT天生未来多路rollout。。。。
推理时使用KV cache实现流式天生，，每个玩家流和枢纽各维护自力缓存。。。。
焦点设计三：三阶段蒸馏，，从「看得全」到「跑得快」
天生质量和推理实时性在扩散模子里自然是一对矛盾：双向模子质量最高但无法流式推理，，因果模子支持实时天生但质量下降。。。。
Gamma-World用三阶段训练在两者之间架桥。。。。
第一阶段：逊Й向西席。。。。
西席模子可会见完整序列（包括未来。。。。，，提供最高质量的生身漫衍，，仅用于训练阶段，，不加入推理。。。。
第二阶段：训练因果学生。。。。
学生模子只能看到目今及已往的帧，，连系希罕枢纽注重力适配流式推理。。。。
要害在于将学生完整训练为多步扩散模子，，而非仅作为蒸馏热身——蒸馏之前学生已能爆发合理的推演效果，，为下一阶段提供稳固起点。。。。
第三阶段：条件Self-Forcing蒸馏。。。。
以因果学生为起点、双向西席为目的，，通过漫衍匹配蒸馏（DMD）将多步采样压缩为4步采样
蒸馏在自回归self-rollout下举行，，训练漫衍与推理漫衍对齐，，有用缓解误差累积。。。。
全程保存初始帧与逐智能体行动序列作为条件信号，，确保压缩后的模子行动可控性不退化，，最终实现24 FPS流式推演
实验效果
1、周全逾越现有最强
在多人Minecraft情形的五类场景中，，比照帧拼接方案和现在最强的多智能体天下模子Solaris，，Gamma-World在影象、空间定位、移动、制作、跨视角一致性五个场景周全领先，，要害指标FVD（视频天生质量的评估指标）平均降幅凌驾40%。。。。
2、消融：每一步设计都有现实效果
消融效果说明从「学习槽位身份」换成「纯粹形编码」，，FVD从256.3降至228.5，，没有增添任何参数，，仅通过改变编码方式就带来了整个消融中最大的单步增益
这个效果的意义不但是「纯粹形编码更好」，，而是证实晰一件更基础的事：
在架构中显式编码置换对称性约束，，比让模子从数据中隐式学习这种结构，，在样本效率和最终性能上都有显著优势
对称性是一个先验知识，，把先验知识编进架构比让模子自己去发明，，原来就更有用率——消融实验用数字验证了这一点。。。。
3、双人训练，，四人直接跑通
△零样本四人泛化，，模子仅用双人数据训练，，推理时直接天生四路同步视角
模子仅在双人数据上训练，，推理时从极点池中启用两个新极点，，直接天生四路同步视角，，无需修改任何架构参数，，四路画面维持共享天下状态的一致性。。。。
这个效果直接验证了纯粹形编码的焦点设计目的：泛化到恣意玩家数，，不需要见过谁人玩家数的训练数据。。。。
无论是Solaris、Enigma Labs的Multiverse照旧Odyssey的Agora-1，，这些事情都证实晰多智能体天下模子可以做，，但同时都缺乏这样的拓展泛化能力。。。。
4、两种典范使命的定性展示
△两智能体交互示例——两路视角坚持同步，，Agent 1的行为在Agent 2的视角中被准确反映
在「放置与挖掘」使命中，，两路视角实时同步，，一方的操作在另一方画面中获得准确反映。。。。
在「制作塔楼」使命中，，双方协同搭建的方块在各自视角里位置一致，，共享天下状态完整维护。。。。
当玩家暂时移出对方视野时，，模子仍能维持准确的空间定位——这说明模子追踪的是共享的潜在天下状态，，而非自力天生各路视频后拼在一起。。。。
5、从游戏到真实机械人
△从游戏agent到真实双臂机械人协同，，模子天生坚持协同运动的未来帧
研究团队将Gamma-World应用于RealOmin-Open数据集的真实双臂机械人协同使命，，以左右两条机械臂划分作为自力智能体。。。。
天生的未来帧坚持了双臂的协同运动与空间结构，，统一套框架从Minecraft多人场景直接迁徙至真实物理操作，，无需特殊适配。。。。
这一效果验证了多智能体天下模子框架自己的通用性，，而非针对特定场景的专项方案。。。。
这也让人忍不住往更远处想：现实天下中险些所有有价值的场景，，实质上都是多个主体在共享情形中协作或博弈——手术室里的多臂协同、工厂产线上的多机械人调理、自动驾驶中的多车交互。。。。
若是一套统一的多智能体天下模子框架能够笼罩这些场景，，它所代表的就不但是仿真能力的提升，，而是为整个Physical AI领域提供了一个全新的数据生产和战略训练基础设施。。。。
Gamma-World的三项焦点设计，，纯粹形旋转智能体编码、希罕枢纽注重力、条件师生蒸馏，，划分对应多智能体天下建模中三个恒久悬而未决的问题：
身份的对称体现、交互的高效建模、质量与实时性的同时兼顾。。。。
每一项都不是修补，，而是在确认原有路径走欠亨之后，，从更底层的建模原则重新给出的谜底。。。。
三项设计背后有一个配合的要领论：将对问题结构的明确直接编码进架构，，而非期待模子从数据中自行发明。。。。
一个真正明确多智能体天下的模子，，应当在结构上就是对称的，，而不是见过足够多的数据之后，，恰巧学出了近似对称的行为。。。。
前者是明确，，后者只是拟合。。。。
Gamma-World零样本泛化到四人场景的效果，，正是对这一判断最直接的实验验证。。。。
这一要领论也指向一个更大的可能性：当多智能体天下模子的天生质量足以忠实还原真实物理纪律，，训练数据的收罗方式自己就会爆发根天性转变——
从依赖真实场景的物理收罗，，转向由神经网络驱动的大规模模拟天生
受限于人力、空间和时间的数据瓶颈，，将有可能被无限可扩展的神经仿真所替换。。。。
从方块天下到机械臂，，Gamma-World迈出的是验证性的第一步。。。。
真正的天下模子，，学会的不应只是「画面」，，而是「规则」。。。。
论文：Gamma-World: Generative Multi-Agent World Modeling Beyond Two Players机构：NVIDIA/清华大学/多伦多大学/Vector Institute项目主页：https://research.nvidia.com/labs/sil/projects/gamma-world/GitHub：https://github.com/nv-tlabs/Gamma-WorldHuggingface: https://huggingface.co/papers/2605.28816
数据中心发电厂噪音扰民！马斯克两公司遭万人整体诉讼