跳至正文
原文导读 · 原标题中译

世界建模与动作建模能否在统一因果训练下相互受益?

Can World and Action Modeling Benefit Each Other under Unified Causal Training?

材料发布 2026-10-15 · arXiv · 作者论文 · 核查 2026-10-18
图 1:OneWM 总览。VAE 将图像编码为潜变量,观测前缀保持干净,视频专家对未来潜变量去噪;动作块嵌入动作专家。因果联合注意力连接两类专家,各自通过文本交叉注意力接收指令。下图展示全干净、干净前缀加噪声后缀、全噪声三种动作构造,以统一世界预测与动作生成。 图片出处
图 4:主相机视角的世界预测。来自 LIBERO 与 LIBERO-Plus 的六个案例对比真实图像、OneWM 及图示世界模型基线;橙框标出最后一列在 t + 32 时刻放大的区域。 图片出处

内容摘要

作者提出 OneWM,在同一时序因果视频—动作架构中,研究世界预测与动作学习能否相互促进。框架通过因果联合注意力连接视频与动作专家,并在每个训练批次混合全干净动作、干净前缀加噪声后缀、全噪声动作三种设置,使动作既作为未来视频预测的条件,也作为策略学习的目标。作者在 LIBERO、LIBERO-Plus 和 RoboCasa365 上评估策略与世界预测,并开展积木堆叠、积木插入和早餐摆放真机实验。

同架构内部比较中,OneWM 的 LIBERO 平均成功率为 94.95%,动作屏蔽与噪声动作条件基线分别为 92.45% 和 92.60%;作者还报告真机三项任务均优于动作屏蔽基线。反向比较中,相较仅学习干净动作条件视频预测的同架构世界模型,OneWM 在三个仿真基准上的 PSNR、SSIM 和 LPIPS 均更优,支持动作学习对条件预测的帮助。部署策略时无需生成未来视频。混合比例实验同时提示,增加干净动作训练并非越多越好:较大幅度增加其占比会削弱策略泛化。

点评

作者的受控比较支持:在所测因果架构与任务中,显式学习动作的视觉后果与学习生成动作可提供互补监督,而不只是单向利用视频预测辅助策略。

结论限于作者论文中的实验设置,不外推通用能力。真机每项任务每模型仅评估 15 次;视频预测评测集由作者基于专家轨迹构建。条件预测指标改善也不意味着所有分布指标均改善,例如 LIBERO 上的 FID 不及同架构世界模型。

版本与核查范围

版本 2610.21095v1 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。

原文与定位

  • 原文链接 #S3.SS1.p3.1;#S1.p4.1;#S4.SS1.SSS0.Px1.p1.1;#S4.SS2.p1.1;#S4.T1.7;#S4.SS2.SSS0.Px3.p1.1;#S4.SS3.p1.1;#S4.SS3.SSS0.Px1.p1.1;#A1.SS1.SSS0.Px4.p1.1;#S4.SS4.p3.1;#S5.p1.1;#A1.SS2.SSS0.Px1.p1.1