跳至正文
原文导读 · 原标题中译

从预训练到熟练掌握:以最少人工干预开展面向长时程操作的真实世界子任务强化学习

From Pretraining to Proficiency: Real-World Subtask RL for Long-Horizon Manipulation with Minimal Human Intervention

材料发布 2026-09-18 · arXiv · 作者论文 · 核查 2026-10-19
图 2:PARTS 架构。左侧:人类(设计者)从基线策略的失败案例中识别瓶颈(bottlenecks)并给出契约(contracts,即可检查的行为/状态约束或接口规范);编码智能体(coding agents,即用大语言模型驱动、用于编写程序的智能体)实现选择、验证与重置程序。右侧:残差策略(residual policy)对冻结的基线策略进行修正。局部奖励(local rewards)与按瓶颈划分的回放数据(per-bottleneck replay)支撑在线 TD3+BC 训练,并支持在全部成功样本加上比例为 ρ 的失败样本上进行重训练;重训练后的策略继续在线学习。在评估阶段,PARTS 允许在基线策略与残差策略之间切换,以完成完整任务。 图片出处

内容摘要

预训练机器人策略可能已能完成长任务的大部分步骤,却反复卡在少数瓶颈;完整任务示范会重复采集已有可靠行为,而末端稀疏奖励难以反馈中间步骤的改善。作者提出PARTS,将真实机器人强化学习集中于这些失败子任务。

方法先对π₀.₅进行任务示范微调,再冻结基础策略,仅在指定瓶颈启用有界残差修正。编程智能体生成选择器、成功验证器和重置程序,以局部结果提供奖励;在线TD3+BC结合成功重加权再训练与重新部署,保留全部成功经历及部分失败经历,继续收集数据。

作者在双臂YAM和单臂Franka上测试耳机入盒、乐高分拣和线缆拔插,每种方法每项任务评估20个完整回合。乐高仅报告进度分数:17分钟强化学习交互后,分数由54%升至82%;线缆任务经29分钟交互,插入成功率接近翻倍。

比较匹配的是机器人交互时间,不含物理重置和更新暂停,不能据此认定总耗时或算力成本相同。人工仍需识别瓶颈、制定约束;耳机任务还需核查成功标签,并在机器人无法恢复场景时协助重置。

点评

提供一种保留基础策略、用局部奖励集中修补失败环节的适配路径;改进仍以完整任务执行评估,而非只看孤立子任务。

证据为作者论文实验,不是独立复现。评估限于文中三项任务;乐高进度分数不能等同完整任务成功率,“最少人工干预”也不代表全自主。

版本与核查范围

版本 2609.21788v1 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。

原文与定位

  • 原文链接 #abstract1.1;#S1.p3.1;#S3.SS1.p1.1;#S3.SS2.p1.1;#S3.SS4.p2.1;#S1.p6.1;#S4.SS1.p5.1;#S4.SS3.p1.1;#S4.SS3.p1.1;#S4.SS2.p2.1;#S4.SS1.p4.1