内容摘要
作者提出 OneWM,在同一时序因果视频—动作架构中,研究世界预测与动作学习能否相互促进。框架通过因果联合注意力连接视频与动作专家,并在每个训练批次混合全干净动作、干净前缀加噪声后缀、全噪声动作三种设置,使动作既作为未来视频预测的条件,也作为策略学习的目标。作者在 LIBERO、LIBERO-Plus 和 RoboCasa365 上评估策略与世界预测,并开展积木堆叠、积木插入和早餐摆放真机实验。
同架构内部比较中,OneWM 的 LIBERO 平均成功率为 94.95%,动作屏蔽与噪声动作条件基线分别为 92.45% 和 92.60%;作者还报告真机三项任务均优于动作屏蔽基线。反向比较中,相较仅学习干净动作条件视频预测的同架构世界模型,OneWM 在三个仿真基准上的 PSNR、SSIM 和 LPIPS 均更优,支持动作学习对条件预测的帮助。部署策略时无需生成未来视频。混合比例实验同时提示,增加干净动作训练并非越多越好:较大幅度增加其占比会削弱策略泛化。
点评
作者的受控比较支持:在所测因果架构与任务中,显式学习动作的视觉后果与学习生成动作可提供互补监督,而不只是单向利用视频预测辅助策略。
结论限于作者论文中的实验设置,不外推通用能力。真机每项任务每模型仅评估 15 次;视频预测评测集由作者基于专家轨迹构建。条件预测指标改善也不意味着所有分布指标均改善,例如 LIBERO 上的 FID 不及同架构世界模型。
版本与核查范围
版本 2610.21095v1 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。
原文与定位
- 原文链接 #S3.SS1.p3.1;#S1.p4.1;#S4.SS1.SSS0.Px1.p1.1;#S4.SS2.p1.1;#S4.T1.7;#S4.SS2.SSS0.Px3.p1.1;#S4.SS3.p1.1;#S4.SS3.SSS0.Px1.p1.1;#A1.SS1.SSS0.Px4.p1.1;#S4.SS4.p3.1;#S5.p1.1;#A1.SS2.SSS0.Px1.p1.1
