内容摘要
长程机器人操作需要记住当前观测已无法恢复的历史,但保存完整历史的成本会随执行时间增长。作者提出TTT-RM:不让测试时训练(TTT)泛化压缩全部历史,而是用残差记忆补充容量有限的显式记忆库,保留当前上下文无法恢复的任务相关信息。
方法先训练历史解码器,根据当前观测和检索记忆重建历史表征,再以重建残差监督TTT慢权重,使在线快权重更新学会保存互补信息;读出的残差记忆与检索记忆共同影响动作生成。推理时移除解码器,快权重每次策略调用更新,并在每轮任务开始时重置。
作者报告,在RoboMME中,TTT-RM相对对应显式记忆配置的平均成功率提高2.2—7.1个百分点;FrameSamp配合Modul的结果由42.8%升至45.4%。真机实验涵盖三项任务,每种方法每项测试20次;其中约三分钟、八阶段的物品收纳任务,平均任务进度由最强基线的50.5%升至77.0%。这里的真机指标是任务进度,不应当作整任务成功率。
点评
这项作者研究支持一种互补记忆设计:快权重重点学习已有上下文解释不了的历史,而非简单叠加两种记忆机制。
证据来自作者论文,非独立复现。真机评测限于三项任务、每种方法每项20次试验,不能外推通用长程操作能力。
版本与核查范围
版本 2610.04701v1 · 原文定位与程序检查、独立上下文模型复核;不代表独立研究复现。。依据已核查材料整理;未运行模型或机器人。
原文与定位
- 原文链接 page:1;page:1;page:1;page:2;page:2;page:8;page:9;page:9;page:9;page:9
