跳至正文
原文导读 · 原标题中译

GRAIL:从世界模型生成人形机器人移动操作

GRAIL: Generating Humanoid Loco-Manipulation from World Models

材料发布 2026-10-19 · arXiv · 作者论文 · 核查 2026-10-23
图 2:以三维资产为条件的四维人—物交互生成。先用三维物体资产搭建参数已知的场景,预设接近目标机器人比例的人物和相机;再以渲染帧为条件,用视频基础模型生成固定相机下的交互视频。最后以已知三维配置为约束,结合关键点、深度和接触损失,联合修正人体与物体轨迹,恢复带真实尺度、随时间变化的三维运动。 图片出处
图 5:从仿真到真机部署。仅用 GRAIL 生成数据训练的第一视角视觉策略,迁移到宇树 G1 完成物体拾取和爬楼梯。 图片出处

内容摘要

让人形机器人走近物体后拾取、或登上楼梯,需要机器人可执行的动作示范;遥操作和动作捕捉依赖实体布景与人工采集。GRAIL将示范生成移到虚拟环境,为仿真训练和真机迁移提供数据,避免反复搭建实体场景或遥操作机器人。

关键改变是先确定三维场景,再生成交互视频:物体几何、相机、尺度、环境深度和接近机器人比例的人物均预先已知。系统据此恢复随时间变化的人体与物体三维轨迹,联合修正深度和接触关系,再将动作映射到机器人。操作任务用适配模块补充物体感知和手部动作;地形任务用局部高度图微调整身控制器。

作者生成了超过20,000条序列,涵盖拾取、全身操作、坐下和地形穿越,并用生成数据训练第一视角视觉策略。在宇树G1真机拾取评测中,每种物体测试10次,5种已见物体的平均成功率为84%,5种未见物体为80%;爬楼梯成功率为90%,所给材料未说明其试验次数。部署依赖连接桌面显卡计算机,并非纯机载运行。这些是作者论文实验结果,不是独立复现,也不能外推为任意物体、地形下的通用能力。

点评

对开发者的价值是提供一条从已知三维资产生成动作参考、转成机器人动作数据、再训练视觉策略的路线;作者将其定位为遥操作和动作捕捉的补充,而非替代。

流程依赖三维资产、可仿真的场景及遵循交互要求的视频模型;严重遮挡、快速运动或外观不一致会降低重建质量,部分序列需丢弃。动作类别明显变化时仍需训练或微调。拾取的逐物体试验次数不能套用于爬楼梯;真机结果属于作者论文证据,不是独立研究复现。

版本与核查范围

版本 2606.05160v2 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。

原文与定位

  • 原文链接 #S1.p1.1;#S1.p2.1;#S5.p1.1;#S3.SS3.p1.1;#S1.p3.1;#S4.T3.3.1;figcaption[72];#S4.SS3.p1.1;#S3.SS4.p1.1;#S5.p1.1;#S6.p1.1