跳至正文
引用材料

T05:机器人学习专题证据记录

身份、问题与范围

  • run_id:2026-10-10_221032_robot_learning_study;as_of:2026-10-10T22:10:32+08:00;时区 Asia/Shanghai。后续获取只读截止前固定论文版本,不自动延长材料截止。
  • 起点:HEAD 3999eee4db1bc81972016e91ea9e3b144e69309d,T04 交付 70cf89f 已包含;初始 git status --short 为空。未回退或提交任何改动。
  • 初始缺口:① 旧专题列项目但未给训练/部署接口;② “接触难迁移”缺少具体成功条件与失败机制;③ 后训练改善、人工纠正和成本范围未充分对照;④ 代理评测和完整成功容易混淆。
  • 取材方式:沿当前专题、T02—T04 与 channels.yaml 的 SONIC、Playground、RLinf、HIL-SERL、RoboTwin、SIMPLER 入口定向选文;直接读取 12 项工作的固定 HTML 与 abs 版本历史。无新关键词搜索、无翻页、无全渠道新发布扫描,不推进来源水位;经典工作用于机制,近期版本用于能力边界。不套 90 天窗口。
  • 本轮共获取 14 个版本的 HTML/abs(28 个响应):12 项工作,另含 ASAP v1、STAR v1 的版本核对。正文定向阅读,不声称逐公式/逐附录全文审校。获取时间、响应哈希与阅读范围见回执;不把 HTTP 200 单独算作内容通过。

固定版本与日期

下表发布/修订日期统一使用 arXiv Submission history 的 UTC 日期,精确时间保存在获取回执的历史摘录;与本轮北京时间获取日期分开。修订列记录选用版本日期,不自动证明它首次引入该能力。各项获取于 2026-10-10 +08:00;检索起止见检查文件。

工作 / 固定原文 首发 UTC 选用版本日期 UTC 用途与本轮阅读位置
SONIC v4 2025-11-11 2026-08-13 §2.1/2.5/2.6、§3.2/3.5/3.7、Tables 1/S3/S4;运动接口与真机分母
ASAP v3 2025-02-03 2025-04-26 §II/III、§IV-C / Table V、§VIII;新增深入,残差训练/部署位置与硬件限制
Playground v1 2025-02-12 首发版本 §II/IV-B/IV-C1、Table I、附录 B/C.4;控制、辨识、接触失败
HIL-SERL v3 2024-10-29 2025-03-20 §3.2–3.5、§4.2–4.5、§6、任务附录 Tables 5/10/11;奖励、纠正、控制与成本
RLinf-VLA v3 2025-10-08 2026-08-12 §V-D;SFT 起点与真机无成功增益
DRIVE v1 2026-10-07 首发版本 §4/5.2/5.3/6、Table 2、附录 E;奖励机制、计数与标定
RoboTwin 2.0 v2 2025-06-22 2025-08-27 §4.4 / Table 4;混合数据收益与退步,生成机制复用 T02
STAR v2 2026-09-11 2026-09-18 §IV、§V-A/C/D、Tables II/III、§VI;对照 v1 同节,消融条件与零增益
RAPolicy v1 2026-09-19 首发版本 §III、§IV-A/C / Table II;共同起点、奖励、回放与预算
RECAP v2 2025-11-18 2025-11-19 定向重读 §VI-C、§VII;价值/advantage conditioning 方法说明复用 T02 §a2
SIMPLER v1 2024-05-09 首发版本 §III-B、§IV、§VII;控制/视觉差距与相关指标边界,配对结果背景复用 T02
DreamTrue v1 2026-10-08 首发版本 定向重读 §4.4/5,核对附录 C.2;预测评测机制与分母复用并复核 T03

ASAP 初读 v1 后按历史切换至 v3;采用 v3 定位,不将 v1→v3 解释为本轮新技术进展。STAR v2 在北京时间 09-19 00:43:17 提交;其 §V-C 明确消融变体独立训练,均先用完整 200 小时数据训练策略,再用每任务 100 条轨迹适配,组件在前一阶段即移除/替换。对照 v1/v2 的 §IV–VI,Tables II/III 数值不变;本轮新增的是实验条件的明确性,不声称 9 月修订带来新的成功率。T04 的 v1 快照仍有效,无历史事实更正或报告重建内容需求。

运动、控制与迁移证据矩阵

问题 / 原文位置 训练和部署条件 / 基线 指标、分母、收益 成本与限制 / 目标节点
运动模仿是否等于 BC?SONIC §3.2、Tables S3/S4 Isaac Lab 中 PPO 优化参考身体姿态/速度误差、动作平滑等奖励,并联合表示学习;critic 可见训练专用状态,actor 用本体历史和运动命令。G1 策略输出关节目标交给 PD 这是奖励驱动的运动模仿。§2.1/3.7 真机 124 段动作各一次,123 完成;不是任务或长期存活统计 T02 已核运动数据/算力,本轮不重算训练成本。§2.6 极端动作仍会失稳、长期安全/能耗未正式处理。RES、K03.01.01、K04.04.01
跟踪怎样连到任务?SONIC §2.5 / Table 1、补充 S1.4 GR00T N1.5 用遥操作任务示范微调;全身动作是 64 维 token+14 维手关节,非直接复制人的关节角;苹果任务另用 3-point 接口 开桶 7/10,汽水入桶 6/10。Table 1(A) 对应 200 与 1,000 条轨迹;补充另提 150 条单物体汽水轨迹,不能把 1,000 当完整人工成本。pickup 两变体共用策略,五任务均值非六行均值 参考、遥操作与自主任务分别验收。每项 10–20 次不是长期运行;不从局部消融推整个系统单因素因果。RES、K04.04.01;K01.06 已覆盖
真机残差在哪起作用?ASAP §III-A–D、§IV-C / Table V、§VIII 真实动捕+本体数据训练 delta action;冻结它以修正仿真,再微调原跟踪策略;真实部署不带 delta。实际 G1 固定腕、4 DoF 踝残差;与不微调 Vanilla 对照 Table V 两动作的全局位置误差 E_g-mpjpe:Kick 61.2→50.2 mm,LeBron/OOD 159→112 mm。是跟踪误差而非任务成功率,不跨工作比较 §IV-C 报 100 motion clips 用于 4 DoF 学习,另述五动作各执行 30 次和 10 分钟 locomotion;原文未给这些集合逐项映射,不相加成“总数据”。全 23 DoF 的 >400 clips 需求来自仿真;采集期间两台 G1 有硬件损坏,依赖动捕。RES、K02.08、K04.04.01
有接触也能迁移吗?Playground §IV-C1 / Table I、附录 C.4 LEAP 手、7 cm 方块、单 D415 位姿估计、20 Hz 策略。仿真随机化质量/摩擦/增益/传感;真实执行器辨识,再加位姿异常与力矩限制课程 10 次运行连续成功旋转次数:3,27,8,2,15,3,4,1,3,5;中位数 3.5、均值 7.1。分母是运行次数,指标不是单次旋转成功率 论文报训练 30 分钟、2×RTX 4090,不含搭建/辨识/调参总人工。卡块与柔性互锁是实测失败;相机覆盖和碰撞几何改进是作者建议,未作为已验证修复。RES、K04.05、K02.08

ASAP 的 SysID/DR/DeltaDynamics 大规模对照主要在 sim-to-sim Tables III/IV;Table V 真机只和 Vanilla 比。本轮不把仿真对照写成所有方法的真机排名。 领域随机化提高预设误差范围内的容忍性、SysID 拟合参数、残差拟合剩余偏差,这是对上述机制的综合;没有哪一项自动解决新物体语义、遮挡或未建模接触。

操作、接触与正反对照矩阵

问题 / 原文位置 训练和部署条件 / 基线 指标、分母、收益或反例 成本、归因与目标节点
仿真奖励改动能改善真机吗?DRIVE §4/5.3、Table 2、附录 E PiPER-X 双臂匹配的仿真专家轨迹做共同 SFT;Vanilla RFT 与 DRIVE 分别仿真 RL。组内 VLM 特征以 GAK 对齐时间,奖励成功轨迹的多样性 每任务×条件×方法 20 次;两任务三种 OOD 总共 120 次,按表折算 77→88 成功;按铃 Lighting 两组均 13/20。8 个条件含 clean,7 升、1 平 每臂 48 个标定姿态;URDF 腕相机外参不重复套手眼变换;几何、视角、光照需匹配。额外 GAK/VLM 计算;无统一总人工、逐次日志或完整 checkpoint 身份。RES、K03.01.01、K02.08
RL 是否必然提高完整成功?RLinf-VLA §V-D OpenVLA;20 真机示范+1,000 仿真轨迹训练 SFT,RL 从此起点在仿真后训练;相机与机械臂配置匹配 SFT 与 RL 真机关抽屉均 8/10。作者观察动作更直接/流畅,不将定性描述写成量化时间收益 单任务小样本;训练吞吐加速是另一指标,预算不与 DRIVE 相同。RES、K03.01.01;K09.01 已覆盖
合成轨迹收益是否均匀?RoboTwin §4.4 / Table 4 RDT、COBOT-Magic;四任务,10 条干净真实示范,对照加入 1,000 条随机化合成轨迹及仅合成;相机位移扰动≤1 cm 未见背景+杂物四任务平均 9%→42%,+33 个百分点;已见干净 Click Bell 36%→24%,已见杂乱 Handover Block 16%→12%。每单元试次数未披露,不倒推 同时增加数据量和随机化覆盖,只能归因整套数据方案;不是 RL 对照,不是最优混合比。RES、K02.08;K04.05 已覆盖
触觉提升哪种指标?STAR v2 §V-A/C/D、Table III、§VI π0.5 基础的双臂灵巧策略;200 小时数据预训练+每任务100轨迹适配;共同初始配置、每方法每任务20次。对比完整训练与 w/o T,不混作推理 mask T 取书 SR 0.55→0.55(按20次折算均11/20),TCR 0.71→0.83;耳机 SR 0.35→0.65(7/20→13/20)。TCR 分母是子任务,不能转成额外成功 episodes 传感器覆盖不足/视觉与触觉取舍是作者解释,非排他的因果识别。v2 补训练控制说明;未来触觉预测消融的间隔和最大时间跨度同时变化,不能归因某一项。RES、K04.05

DRIVE 完整真机表及折算保留在 T03 §change-drive,本轮回读原表复算,不复制全部单元。77/120=64.166…%,88/120=73.333…%,差值约9.17个百分点;论文正文64.1%与普通四舍五入有细差,继续采用“按表折算计数”。§5.3/附录 E 内文误指 Table 6,以表题 Real-world success rates (%) over 20 trials per task-condition pair / Table 2 定位。无逐次日志,不宣称显著性。

刚体抓放、行走、接触丰富/柔性、移动操作/长任务的任务比较是本文的机制综合:SONIC/Playground 支持密集目标和控制接口,HIL-SERL 支持观测、稀疏奖励、接管和重置,RoboTwin/DRIVE 支持资产与视觉覆盖条件。它不是四类任务的等预算实验;本轮没有足够证据给柔性仿真与真机学习做总体优劣排序。

后训练与人工成本矩阵

问题 / 原文位置 更新机制、接口及共同条件 对照结果 / 分母 人工、预算与边界
RL 比纠正模仿多了什么?HIL-SERL §3.2–3.5、§4.3/4.5、Table 1 图像+本体及任务特定力观测;示范/RL buffer 等比例采样,用 RLPD 学价值和策略。接管数据进入两 buffer,自主转移只进 RL buffer;多数任务用成功分类器,接触控制用 reference-limited impedance HG-DAgger 对照匹配初始示范、episode 数,尽量匹配每 episode 的干预次数;大部分任务 n=100,整套 IKEA 组装 n=10。§4.5 增至200示范但没有在线纠正的 SERL 在仪表板组装为0%;只能说明该协议条件 奖励分类器常先收200正/1,000负图像,还可能补假阳/假阴样本;通常20–30初始示范,任务例外。训练时间含脚本、rollout、预定停顿与机上计算,但不等于全部准备/人工小时。目标 RES、K03.01.01、K04.05
柔性/动态技能是否同一种人在回路?HIL-SERL §4.2、任务附录 Tables 5/10/11 线缆夹入:6D twist+夹爪、图像/本体/力;皮带装配:12D twist+夹爪;均需人工重置。甩鞭:3维前馈 wrench、30示范、人工终局奖励,不做实时纠正 受控柔性/接触技能已有真实成功证据;完整组装则脚本衔接且每子策略最多两次尝试,不能写成长任务自主规划 §6 未做广泛随机化与非结构环境泛化,长时域样本复杂度仍受限。力反馈改善可观测性、阻抗控制约束探索后果;本轮未声称单独拆出各模块贡献
近期 VLA 在线改进是否有共同起点?RAPolicy §III、§IV-A/C、Table II Franka Research 3,腕/第三视角RGB;共享π0.5,五任务每项30示范共150;奖励成功10否则0;回放包含自主与人工纠正动作块,以价值优化和回放约束更新,actor/learner异步 Table II最终每项10次,SFT26/50、HG-DAgger35/50、RAPolicy44/50;Green Block 三组10/10,反向堆叠 HG-DAgger 与 RAPolicy 均6/10,联合提升不等于逐项改善 远端8×RTX3090(1 rollout、7训练);在线阶段120分钟不等于示范/重置/监护总人工。摘要10示范及Table I每项20次属单任务,禁止混入。整套方法比较,不能把差值单归因“异步”或某损失。RES、K03.01.01
有真实经验是否必须实时更新?RECAP §VI-C、§VII;方法复用T02 §a2 收集一批自主与纠正轨迹→价值与advantage conditioning→离线更新;叠T恤一项迭代实验不用新增纠正,装箱则有纠正 §VI-C指标为成功任务/小时与完整成功;前者同时含速度,不是训练帧吞吐。本轮不新增跨工作定量比较 §VII明确奖励标注、介入和重置仍用人;批次更新不是持续在线RL。“有实验无接管”不等于系统免人工。RES;K02.07已覆盖

USER 的 π0 采用 HG-DAgger、CNN/flow 采用不同 RL 算法的分类,复用 T02 §a1(2602.07837v4 §III–V / Tables II–V),本轮未重取 USER 全文。不将“所有后训练”统称 RL,也不把人提供重置叫作奖励学习。

代理评测与更强结论的边界

原文 / 问题 可支持的证据 不能支持 / 目标节点
SIMPLER v1 §III-B、§IV、§VII 离线真机轨迹做控制参数辨识,结合视觉匹配/variant aggregation,在配对设置检查相对策略表现;Pearson与MMRV分别看相关性和按真机分差加权的错序 不要求绝对成功率一一对应;相关性不是迁移保证。刚体、固定相机、人工建场景;新任务须重新配对。作者含模型相关团队,不是完全独立审计。RES、K09.03.01
DreamTrue v1 §4.4、附录 C.2 / Table 10、§5 三RoboTwin任务×两配置×10场景×四策略=240条已执行仿真轨迹,给定初始观测和完整动作序列预测视频,再盲评结果;24个任务×策略×配置的成功率误差,MAE 12.92→7.08个百分点,Spearman 0.937(详细协议复用T03) 不是策略在预测观测中闭环重规划,不是真机迁移收益;图像空间奖励可能奖励视觉合理而物理错误的接触。RES、K09.03.01
STAR Table III / SONIC Table 1 步骤完成、参考跟踪及完整任务各有定义 取书TCR改善但SR相同,明确属于“指标改善不足以支持更强结论”;没有独立复现不是负实验

DreamTrue 视频缺陷盲评、反事实方法与开放清单复用 T03 §change-dreamtrue,本轮只为策略结果预测重读,不声称再次审核所有视频标注或仓库。T04 的基准审计、SoftVTBench、Behavior-Skill/REBOOT 保持原深度,入口见 T04 证据索引及能力评测;本文不新增其数值结论。

开放状态、复用及未核查范围

本轮核心结论来自固定作者论文,没有新增开放配套或独立复现的认定。代码/模型快照复用下列已有核查,未重读当前 README、未下载权重,不用当前分支解释旧实验:

  • T02 §c1:GEAR-SONIC 模型卡 6733128a3d8a523b1418b06bca3cdf61c8b0987f,代码 README b042411fae38ee4d1af9aac82a37a1f8d14d6dd0。模型卡修改时点2026-08-26不是首发;News低延迟版06-16、v1.1为07-23;80/200ms是参考前视,论文50Hz策略与500Hz命令写入分开。
  • T02 §a1/a2:RLinf README 0067f7d5ce525c18bda439ed8dbb638abafd6a06;openpi 215abfb217dbac7d5f1273282331b9b1866c0479 未确认 RECAP 完整配套。
  • T03 §change-dreamtrue:DreamTrue 991e2963c015be9c5b7f21695bb82bfaaceffed8 文档不含完整生成器训练配套,数据页原有空壳访问缺口未在本轮重试。
  • T02 §c2:Playground 论文v1与工程v0.2.0分开;不把论文早期后端开销限制推广到所有当前后端。

未新增读取 ForceRFT、BeyondMimic、UniPoint、VioLA、LocoWM、DiagGen 或全部 T04 候选。LocoWM/DiagGen 等摘要线索未升级为机制依据;不因未选而判定其无价值。物理仿真与学习式世界模型的深入比较仍链接已有专题,不另开正文。

判断形成、回写与集中缺口

原有表达 / 缺口 本轮结论与处置
旧专题“ASAP 使用真机校正”未定位适配环节 明确残差校正训练仿真、部署移除;真机4 DoF踝部与sim-to-sim全身对照分开。新增机制与成本边界,不推广泛机器人适用性
项目入口无法解释“运动模仿+RL+VLA” 增加训练—部署—执行对照;SONIC的奖励、运动token、PD与任务微调分开;WBC为概念分工,不等于某算法
“触觉有时无收益”缺少可比较例子 STAR采用v2共同训练说明及Table III;区分取书SR持平/TCR上升、耳机SR提升与推理mask消融。未改写历史v1报告
仿真后训练/真机学习似可统一比较 将DRIVE/RLinf/RoboTwin的不同同条件对照并列,但不跨文排名;HIL-SERL/RAPolicy/RECAP分清奖励、更新节奏、纠正与预算
代理好看/预测好似乎即可代替真机 SIMPLER与DreamTrue区分相关、预测误差、闭环成功;K09.03.01补短结论与专题入口

回写 K03.01.01、K04.04.01、K02.08、K04.05、K09.03.01 五卡:优先综合替换原长案例和“证据补充”,保留少量结论及深入链接;所有维护日仍为实际日期2026-10-10。K01.06、K02.07、K09.01定义/成本/评测已覆盖,不机械刷新。专题目录补一句阅读说明;RES-ROBOT-LEARNING、parent=K03.01.01、既有显示顺序、全部关系保持不变。

关系复核:专题到locomotion/仿真/操作三条概念关联、五卡已有出边的语义和方向均仍适用;没有事实需要升级成公开资料关系,不造新边。全部知识节点的ID/parent/display_order/relations与HEAD程序比较,结果见检查。正文引用不必新增关系。

集中缺口:① 计入设置、奖励标注、重置和硬件损耗的共同总预算;② 柔性、新本体、长任务的失败分布与完整迁移;③ 撤掉真机适配/传感组件的独立消融及新策略上的代理评测校准。它们限制外推,不是本轮未完成四组研究问题,也不是安排实验任务。

完成检查见本轮检查。本轮不接通T06,不将专题文献研究计作两次独立周期更新试运行;没有对外发布、训练、仿真运行或真机实验。