内容摘要
预训练机器人策略可能已能完成长任务的大部分步骤,却反复卡在少数瓶颈;完整任务示范会重复采集已有可靠行为,而末端稀疏奖励难以反馈中间步骤的改善。作者提出PARTS,将真实机器人强化学习集中于这些失败子任务。
方法先对π₀.₅进行任务示范微调,再冻结基础策略,仅在指定瓶颈启用有界残差修正。编程智能体生成选择器、成功验证器和重置程序,以局部结果提供奖励;在线TD3+BC结合成功重加权再训练与重新部署,保留全部成功经历及部分失败经历,继续收集数据。
作者在双臂YAM和单臂Franka上测试耳机入盒、乐高分拣和线缆拔插,每种方法每项任务评估20个完整回合。乐高仅报告进度分数:17分钟强化学习交互后,分数由54%升至82%;线缆任务经29分钟交互,插入成功率接近翻倍。
比较匹配的是机器人交互时间,不含物理重置和更新暂停,不能据此认定总耗时或算力成本相同。人工仍需识别瓶颈、制定约束;耳机任务还需核查成功标签,并在机器人无法恢复场景时协助重置。
点评
提供一种保留基础策略、用局部奖励集中修补失败环节的适配路径;改进仍以完整任务执行评估,而非只看孤立子任务。
证据为作者论文实验,不是独立复现。评估限于文中三项任务;乐高进度分数不能等同完整任务成功率,“最少人工干预”也不代表全自主。
版本与核查范围
版本 2609.21788v1 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。
原文与定位
- 原文链接 #abstract1.1;#S1.p3.1;#S3.SS1.p1.1;#S3.SS2.p1.1;#S3.SS4.p2.1;#S1.p6.1;#S4.SS1.p5.1;#S4.SS3.p1.1;#S4.SS3.p1.1;#S4.SS2.p2.1;#S4.SS1.p4.1
