内容摘要
让人形机器人走近物体后拾取、或登上楼梯,需要机器人可执行的动作示范;遥操作和动作捕捉依赖实体布景与人工采集。GRAIL将示范生成移到虚拟环境,为仿真训练和真机迁移提供数据,避免反复搭建实体场景或遥操作机器人。
关键改变是先确定三维场景,再生成交互视频:物体几何、相机、尺度、环境深度和接近机器人比例的人物均预先已知。系统据此恢复随时间变化的人体与物体三维轨迹,联合修正深度和接触关系,再将动作映射到机器人。操作任务用适配模块补充物体感知和手部动作;地形任务用局部高度图微调整身控制器。
作者生成了超过20,000条序列,涵盖拾取、全身操作、坐下和地形穿越,并用生成数据训练第一视角视觉策略。在宇树G1真机拾取评测中,每种物体测试10次,5种已见物体的平均成功率为84%,5种未见物体为80%;爬楼梯成功率为90%,所给材料未说明其试验次数。部署依赖连接桌面显卡计算机,并非纯机载运行。这些是作者论文实验结果,不是独立复现,也不能外推为任意物体、地形下的通用能力。
点评
对开发者的价值是提供一条从已知三维资产生成动作参考、转成机器人动作数据、再训练视觉策略的路线;作者将其定位为遥操作和动作捕捉的补充,而非替代。
流程依赖三维资产、可仿真的场景及遵循交互要求的视频模型;严重遮挡、快速运动或外观不一致会降低重建质量,部分序列需丢弃。动作类别明显变化时仍需训练或微调。拾取的逐物体试验次数不能套用于爬楼梯;真机结果属于作者论文证据,不是独立研究复现。
版本与核查范围
版本 2606.05160v2 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。
原文与定位
- 原文链接 #S1.p1.1;#S1.p2.1;#S5.p1.1;#S3.SS3.p1.1;#S1.p3.1;#S4.T3.3.1;figcaption[72];#S4.SS3.p1.1;#S3.SS4.p1.1;#S5.p1.1;#S6.p1.1
