内容摘要
作者提出 Mem4Act,为长时程机器人操作中的视觉—语言—动作模型学习固定容量的潜在记忆,针对历史覆盖、记忆内容和策略利用三个问题设计方法。系统通过多粒度时间注意力,从局部时间窗口逐步聚合更长历史;结合语义问答监督与关键帧 DINO 特征重建,保留任务事实和细粒度视觉信息;采用“记忆优先”的两阶段训练,先学习记忆表示,再联合优化记忆与动作策略。
作者在 16 项 RoboMME 单臂任务、9 项 RMBench 双臂任务及 4 项真实双臂操作任务上评估,报告成功率分别为 49.88%、61.0% 和 81.5%,动作策略接收固定的 512 个潜在记忆令牌。真机评测使用 YAM 双臂平台,每项任务采集 70 条遥操作示范、评估 50 次试验。RoboMME 消融显示,在相同默认时间层级下,记忆容量增至 1024 个令牌反而不及 512 个令牌,提示容量并非越大越好。
上述结果属于作者实验;其中 RMBench 比较混合了已发表成绩与作者重训结果,且 Mem4Act 联合训练、部分基线按任务分别训练,不宜视为完全同设置排名。
点评
研究将历史覆盖、保留内容与策略利用一并纳入记忆学习,为长时程控制提供固定长度的策略输入接口;但固定接口不等于历史处理成本固定。
真机结果限于四项任务,成功与否由操作员现场判定。RMBench 基线来源与训练方式不完全一致;这些作者实验不应外推为通用操作能力或独立复现结论。
版本与核查范围
版本 2610.22323v1 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。
原文与定位
- 原文链接 h1[1];#S1.p4.1;#S1.p2.1;#S1.I1.i3.p1.1;#S1.p5.1;#S4.SS1.p5.1;#S4.SS3.p1.1;#A3.SS1.p1.1;#A3.SS1.p2.1;#A4.SS2.p2.2;#A2.SS4.p8.1
