凯时AG

2026-06-14 18:38:42 设为首页 | 加入珍藏

盘算所、ETH研究者提出WorldCache,,视频天下模子近无损提速3.7倍

2026-06-14 18:38:42 宣布 泉源:东坡下载 作者:黄怡婷 浏览:9933次

若是说扩散天下模子的瓶颈,,是每一步去噪都要把统一个大 Transformer 再跑一遍,,那么WorldCache的思绪就是:不要再把所有 Token、所有时间步都当成统一件事 。 。。。。 。这篇事情把 “哪些内容适合缓存”和“哪些时刻必需重算” 拆开处理,,在不重新训练模子、险些不增添特殊显存的条件下,,把缓存真正做成了一套更贴合天下模子结构的推理战略 。 。。。。 。

论文问题:WorldCache: Accelerating World Models for Free via Heterogeneous Token CachingarXiv 地点:https://arxiv.org/abs/2603.06331代码地点:https://github.com/FofGofx/WorldCache

天下模子为什么难以被直接缓存

天下模子之以是比通俗图像或视频天生更难加速,,首先在于它天生的不是简单模态内容 。 。。。。 。以论文关注的扩散天下模子为例,,模子在去噪历程中同时处理RGB、Depth以及与相机轨迹相关的多模态状态,,差别模态、差别空间位置上的 Token,,转变速率和转变方式都纷歧样 。 。。。。 。有的 Token 在一连时间步之间险些静止,,有的 Token 大致线性转变,,尚有一小部分 Token 会泛起显着的非线性转向 。 。。。。 。若是继续沿用简单缓存规则,,要么会为了照顾难题 Token 而对大大都容易展望的 Token 过于守旧,,要么会由于战略太激进,,在少量要害 Token 上迅速累积误差 。 。。。。 。

第二个问题泛起在时间维度上 。 。。。。 。天下模子的去噪历程并不是匀称平滑地推进,,真正决议效果是否失稳的,,往往不是所有 Token 的平均转变,,而是那一小撮最难缓存、最容易漂移的 “瓶颈 Token” 。 。。。。 。这意味着,,牢靠距离跳步也好,,基于全局平均差值触发重算也好,,都会错过真正危险的时刻:该重算时不敷敏感,,不应重算时又容易铺张一次完整前向 。 。。。。 。WorldCache 的切入点,,正是把这两个天下模子特有的失效机理拆出来划分处理 。 。。。。 。

把缓存做成 Token 级战略

WorldCache 的第一步,,是用曲率去预计 Token 轨迹究竟 “好欠好展望” 。 。。。。 。论文使用最近三次 FULL 盘算获得的真实输出,,结构离散速率和加速率,,再由此盘算每个 Token 的曲率分数 。 。。。。 。直观地看,,曲率越小,,说明该 Token 的轨迹越靠近平滑、线性,,可展望性更强;;曲率越大,,则意味着它在目今阶段更可能爆发突变或转向 。 。。。。 ;;谡庖环质,,WorldCache 将 Token 划分为 Stable、Linear 和 Chaotic 三组,,划分对应直接复用、线性外推和阻尼更新三种缓存方式 。 。。。。 。

这一步的要害,,不是简朴地把缓存做细,,而是把盘算真正分配给需要它的地方 。 。。。。 。对 Stable Token,,直接复用上一次输出就足够;;对 Linear Token,,用一阶外推在本钱和精度之间取得平衡;;而对最难处理的 Chaotic Token,,WorldCache 进一步引入基于 Hermite 平滑权重的阻尼更新,,阻止模子只依赖最近一步的切线偏向做冒进展望 。 。。。。 ;;痪浠八,,WorldCache 不是用一把尺子权衡所有 Token,,而是认可天下模子内部保存难度漫衍的长尾,,并围绕这件事重新设计缓存规则 。 。。。。 。

只盯住最难缓存的那一小撮 Token

若是说前半部分解决的是 “缓存时怎样展望”,,那么 WorldCache 的第二步处理的是 “什么时间该停下缓存、恢复完整盘算” 。 。。。。 。论文提出了Chaotic-prioritized Adaptive Skipping,,也就是混沌优先的自顺应跳步机制 。 。。。。 。它不再对所有 Token 做平均监控,,而是只跟踪那部分最难缓存的 Chaotic Token,,并使用曲率对特征差值举行归一化,,结构一个无量纲的漂移指标 。 。。。。 。这样一来,,系统体贴的就不再是 “整体看起来有没有转变”,,而是 “要害 Token 是否已经最先失稳” 。 。。。。 。

这套调理逻辑带来的利益很直接 。 。。。。 。一方面,,WorldCache 能在大宗平稳时间步上放心地延伸缓存链条,,把腾贵的主干网络前向让给真正须要的时刻;;另一方面,,当瓶颈 Token 泛起漂移苗头时,,累计误差又会足够快地触发 FULL 盘算,,阻止局部误差扩散成整段 rollout 的质量坍塌 。 。。。。 。从要领设计上看,,WorldCache 把 “缓存战略” 和 “重算触发” 做成了一套相互配合的系统,,而不是伶仃地改一个展望器或一个阈值 。 。。。。 。

效果不是靠堆显存换来的

在 HunyuanVoyager-13B 的 image-to-world 天生使命上,,WorldCache 将端到端延迟从 1053.7 秒降到 288.6 秒,,对应 3.65 倍加速;;与此同时,,Dynamic WorldScore 仍抵达 45.43,,靠近无缓存基线的 46.40,,PSNR 为 23.49,,LPIPS 为 0.176 。 。。。。 。更主要的是,,它的显存占用为 50.58GB,,和基线 50.44GB 险些一致 。 。。。。 。相比之下,,部分层内缓存基线虽然实验提速,,但显存开销已经凌驾 100GB,,单卡安排并不轻松 。 。。。。 。

在 Aether-5B 的天下天生使命上,,WorldCache 依然坚持了最强的一组质量 - 效率折中:Dynamic WorldScore 为 44.72,,高于 EasyCache 的 44.02;;PSNR 为 31.87,,SSIM 为 0.924,,LPIPS 为 0.066;;端到端延迟降到 107.2 秒,,对应 1.68 倍加速,,而显存仍维持在 46.59GB 。 。。。。 。若是把视角进一步转到几何相关能力,,WorldCache 在 Aether 的 3D 重修设置中把延迟从 55.42 秒压到 21.20 秒,,实现 2.61 倍加速,,同时坚持 Abs Rel 0.341、RPE trans 0.068,,并在加速要领中取得最低的旋转误差 0.796 。 。。。。 。

这件事对天下模子意味着什么

WorldCache 给出的不但是一次更快的采样历程,,更是一种面向天下模子内部异质性的缓存思绪 。 。。。。 。

天下模子并不是通俗视频扩散模子的简朴延伸,,面向天下模子的推理优化,,必需尊重多模态耦合、空间差别和时间动态非匀称这些结构性事实 。 。。。。 。在这个条件下,,无需特殊训练,,不引入大规模特殊显存,,却能把原来腾贵的天下模子推理推到更靠近交互式使用的区间,,这为更长时间跨度的天下模拟、可交互场景天生以致具身智能相关应用,,提供一种有潜力的路径 。 。。。。 。

作者简介

本文配合第一作者为中国科学院盘算所博士生冯伟伦、硕士生范国鑫,,以及苏黎世联邦理工学院博后秦浩桐 。 。。。。 。通讯作者为中国科学院盘算所杨传广和安竹林副研究员 。 。。。。 。焦点成员来自盘算所智能算法清静天下重点实验室智能优化课题组,,隶属于徐勇军研究员团队,,课题组恒久从事高效人工智能的研究,,重点关注视觉、多模态等领域的明确与天生高效性方面的研究 。 。。。。 。

蒙曼谈念书:每一页都不是白读的

责任编辑:张嘉慧    校对:黄儒纯

今日热门

  1. 这种“小土丘”不要碰不要踩
  2. A股开盘:超3100只个股飘绿,,三大指数整体低开
  3. 天下跨径最大钢拱桥凤来大溪河特大桥钢混组合梁合龙
  4. 美官员透露伊朗赞成放弃高浓缩铀库存 伊官方尚未证实
  5. 巴西天狼星粒子加速器启用四条新同步辐射光源
  6. 湖南石门洪灾中的温暖瞬间:六岁孩童搬运物资,,村民自觉驰援“孤岛”
  7. 彩电头部厂商业绩冰火两重天
  8. 英国加大投入重拳攻击性侵儿童犯罪
  9. 南昌市鄱阳湖旅游公路将军洲大桥主塔顺遂封顶
  10. 摊主遇车祸 夜市:摊位给你留一辈子

相关推荐

【网站地图】