LIBERO-PeRM:个性化机器人操作基准评测
任务完成,不等于偏好满足。 LIBERO-PeRM 将两者分开评测:π0.5 在技能偏好条件下任务成功率达 100.00%,偏好满足度仅 25.00%。偏好满足度仅在任务成功时计分,结论限于该仿真协议。
展开阅读
具身图谱在图谱中把握具身智能任务完成,不等于偏好满足。 LIBERO-PeRM 将两者分开评测:π0.5 在技能偏好条件下任务成功率达 100.00%,偏好满足度仅 25.00%。偏好满足度仅在任务成功时计分,结论限于该仿真协议。
展开阅读把价值预测变成任务进度记忆。 VaM 用价值缓存缓解长任务中的动作歧义。在三项真机任务中,相较无缓存版本平均成功率提高 29.4 个百分点;匹配训练及采集预算的在线、离线对照提升 32.8 个百分点。
展开阅读冻结世界模型,只适配环境潜变量。 T2-z 从新环境交互中优化 32 维潜变量。相较不适配的标准世界模型,真机动作成功率由 26.47% 升至 70.80%;结果覆盖四项真机任务。
展开阅读作者提出基于 LIBERO 的个性化操作基准 LIBERO-PeRM,将“完成任务”与“满足用户偏好”分开评测。基准在仿真中覆盖运动、技能和用户画像三类偏好,要求偏好可用语言表达、不改变原任务目标、可自动评价并跨任务复用。其五个评测套件覆盖单偏好学习、数据规模、冲突、组合及上下文偏好推理;312 项任务包含有偏好与无偏好条件,上下文推理套件复用已有任务,不增加任务总数。数据流水线生成有无偏好的配对示范,并提供元数据和偏好满足指标。
评测同时报告任务成功率与偏好满足度,后者仅在任务成功时计分。作者实验显示,现有 VLA 策略零样本遵循偏好仍困难:π0.5 在技能偏好条件下任务成功率为 100.00%,偏好满足度仅 25.00%。监督微调可使偏好变得可学习,但训练策略存在取舍:混合训练比顺序适配更好保留无偏好任务表现,相比仅偏好 LoRA 训练改善上下文提示表现,却削弱运动偏好学习。作者还报告,跨新布局与不同任务的泛化仍困难,偏好组合仅部分实现,分解失败,冲突常导致执行退化。
作者提出 Value as Memory(VaM),通过价值缓存与真实世界在线强化学习,缓解部分可观测条件下的动作歧义,以及离线后训练对部署经验反馈滞后的问题。价值缓存将近期价值预测作为任务进度记忆,与视觉和本体感知历史共同输入动作模型,帮助区分外观相似但所需动作不同的状态;价值预测与动作生成异步运行。
训练依次经历离线示范初始化、离线强化学习预热、有人类纠正的 Online DAgger,以及使用稀疏终局奖励、不再新增人工纠正的自主经验学习,并混合示范、历史离策略数据和当前策略轨迹更新模型。作者在纸箱组装、衣物折叠和磁性巴士组装三项长时程真机任务中报告:按最后三个在线检查点统计,VaM 相较无价值缓存消融版本的平均成功率绝对提升 29.4 个百分点;在匹配梯度步数和数据采集预算的离线、在线对照中,自主学习后平均成功率绝对提升 32.8 个百分点。
并发采集与训练使每梯度步实验耗时平均降低 57.8%。这些结果属于作者论文实验,适用范围限于所评估的任务与预算。
将价值预测从训练监督扩展为策略输入,为任务进度记忆与部署经验闭环更新提供了一条经真机消融检验的后训练路径。
缓存效果依赖价值预测质量及离线预热;实验限于单机器人,未验证机群扩展。论文仅承诺代码开源,不能视为工程产物已开放。
作者提出 T2-z,为动作条件机器人世界模型加入可学习的环境潜变量,用于表征视觉中难以直接识别的环境差异,而不预先监督因素类别及其取值。训练交替进行:固定潜变量学习跨环境共享动力学,再冻结世界模型、通过预测误差优化潜变量。测试时保持模型权重冻结,从新环境的一条或多条交互轨迹优化新潜变量,随后复用于其他动作的结果预测。实现采用 BWM 骨干、32 维环境潜变量,主评测执行 40 次潜变量更新。
作者在 7 种仿真设置和 4 项真机任务中评估;各方法使用相同骨干,适配基线获得相同测试交互轨迹。相较不适配的标准世界模型,仿真平均动作成功率由 37.9% 升至 74.2%;真机平均逐帧状态跟踪误差由 19.30 降至 10.85 像素,动作成功率由 26.47% 升至 70.80%。论文还报告,质量与摩擦共同变化时,潜变量的 PCA 投影呈现对应两因素的二维结构;这属于作者的表示分析,并非独立复现结论。
提供了一条冻结世界模型、仅优化环境表示的测试时适配路线,使交互证据可用于执行前比较候选动作结果,无需预定义物理因素监督或独立环境编码器。
结果属于作者论文评测。动作选择协议保证每组候选动作至少包含一个可成功动作,不能据此外推开放任务通用能力;仿真物理误差包含像素、灯状态分数及角度等不同量纲,不宜视为统一物理精度。
作者提出 Spark-0 视觉—触觉—语言—动作模型,将触觉同时用于视觉预训练监督和动作生成。训练时,触觉手套生成的接触图与冻结三维几何教师的特征共同监督视觉表征,推理时移除相关监督模块;另一条触觉通路编码区域受力历史和三维触觉单元状态,仅向动作专家提供输入,使同一检查点支持纯视觉或带触觉部署。作者构建了 1000 小时的 HumanTouch 全手触觉人类操作数据集,并混合第一视角视频、机器人及仿真数据预训练。
评测中,SparkArena 在同一本体上分别设置纯视觉仿真与在线触觉真机轨道,另以 Ego Humanoid 测试无触觉部署。相同预训练数据和算力下,相比丢弃触觉的 Visual PT,保留 1000 小时 HumanTouch 触觉使 Ego Humanoid 平均成功率由 52.45% 升至 71.72%;真机轨道各变体均带触觉微调和部署,成功率由 44.00% 升至 52.00%。
但仿真轨道变化很小,100 小时触觉配置在两个 SparkArena 轨道均未超过 Visual PT,收益并非在所有设置下同步出现。
作者实验支持将触觉作为可迁移的视觉预训练监督,而不只是部署时的额外输入;无触觉部署的 Ego Humanoid 结果是关键证据。
应按作者论文实验解读,不视为独立复现或通用能力证明。真机每策略每任务仅评测 10 次,插试管任务没有方法完整成功;接触图表达手部级接触区域,而非精确接触点。
作者提出 Mem4Act,为长时程机器人操作中的视觉—语言—动作模型学习固定容量的潜在记忆,针对历史覆盖、记忆内容和策略利用三个问题设计方法。系统通过多粒度时间注意力,从局部时间窗口逐步聚合更长历史;结合语义问答监督与关键帧 DINO 特征重建,保留任务事实和细粒度视觉信息;采用“记忆优先”的两阶段训练,先学习记忆表示,再联合优化记忆与动作策略。
作者在 16 项 RoboMME 单臂任务、9 项 RMBench 双臂任务及 4 项真实双臂操作任务上评估,报告成功率分别为 49.88%、61.0% 和 81.5%,动作策略接收固定的 512 个潜在记忆令牌。真机评测使用 YAM 双臂平台,每项任务采集 70 条遥操作示范、评估 50 次试验。RoboMME 消融显示,在相同默认时间层级下,记忆容量增至 1024 个令牌反而不及 512 个令牌,提示容量并非越大越好。
上述结果属于作者实验;其中 RMBench 比较混合了已发表成绩与作者重训结果,且 Mem4Act 联合训练、部分基线按任务分别训练,不宜视为完全同设置排名。
研究将历史覆盖、保留内容与策略利用一并纳入记忆学习,为长时程控制提供固定长度的策略输入接口;但固定接口不等于历史处理成本固定。
真机结果限于四项任务,成功与否由操作员现场判定。RMBench 基线来源与训练方式不完全一致;这些作者实验不应外推为通用操作能力或独立复现结论。
作者提出一种越野全局规划框架,融合卫星影像、航空激光雷达与 OpenStreetMap 先验,学习连续可通行性地图及目标条件化的路径偏好。训练采用正例—未标注学习:人类驾驶 GPS 轨迹经过的区域视为可通行证据,未访问区域保持未知,而非直接判为不可通行;激光雷达几何先验提供辅助约束,无需可微规划器或人工标注。论文整理的数据集包含 299 个场景,覆盖约 1,244 平方公里,配有 1,130 公里驾驶轨迹。
部署时,长程规划器提供全局航点,短程规划器利用实时车载感知执行局部避障。作者在 Clearpath Warthog 上开展两处场地、七条路线的实地实验。在长程与仅短程规划均完成测试的四条路线上,长程方案相对人工驾驶的平均路程增幅为 5.5%,仅短程方案为 13.9%;操作员干预由 14 次降至 2 次,论文报告降幅为 85%。全部七条路线的长程方案平均路程增幅为 7.4%。其余三条路线因安全约束未运行仅短程基线,不能将四条路线的对比结果套用于全部路线。
这项作者研究展示了用驾驶轨迹与地形先验学习全局导航地图的路线,将远域地理信息与近域实时避障分工衔接;其评测反映与人类驾驶实践的一致性,而非路径最优性的证明。
证据来自作者论文,非独立复现。作者指出,静态地图无法涵盖临时障碍和季节变化,长短程规划接口仍对前视距离与交接时机敏感;实地比较还受仅短程基线测试范围限制。
作者提出 RMBench,以任务记忆复杂度刻画最优策略至少需要保留多少历史观测,并在 RoboTwin 2.0 上构建九项双臂操作任务,覆盖单次历史观测与多项历史信息两类记忆需求。配套策略 Mem-0 采用规划与执行双模块:规划端保存已完成子任务及其视觉结果,执行端融合锚点记忆和滑动窗口,由子任务结束分类器连接。仿真评测涉及八种策略,每项任务使用 50 条专家示范训练、100 次轨迹测试。
消融显示,单次观测类任务移除锚点记忆后,平均成功率从 52.8% 降至 26.8%;多项历史信息类任务移除关键记忆窗口后,从 28.5% 降至 4.8%。但记忆并非越多越好:Cover Blocks 移除锚点记忆后,成功率由 68% 升至 92%。作者还用仿真器真值替代结束分类器,使多项历史信息类任务均值从 28.5% 升至 45.3%,将子任务切换时机识别为当前系统的主要瓶颈。
三项真机任务中,Mem-0 平均成功率为 22.5%;作者明确,这支持记忆机制向硬件迁移,尚不代表可部署的可靠性。
这项作者研究的设计启示是:应检查记忆信息在策略层级间是否重复,并优先改善当前系统的子任务结束检测,而非一味增加记忆通路。
仿真比较中,Mem-0 与 MemER 使用额外子任务监督,与端到端基线的差距不能只归因于记忆架构;真机评测未纳入记忆型基线,且绝对成功率仍低。真值结束信号属于部署时不可用的特权信息,不能将该消融结果当作可部署性能。
作者提出全身灵巧性框架 WBD,将机器人的手臂与躯干作为接触面,通过持续改变支撑接触来移动物体,而不只依赖末端抓取。流程先以能量优化生成抓取并经仿真筛选,再训练按物体划分的强化学习专家,最后将专家轨迹蒸馏为共享控制器。训练目标结合物体位置与左臂、双臂或右臂抓持模式,换手经过双臂支撑,允许移动中短暂失去接触,但要求到达目标时稳定持物。
蒸馏控制器结合条件扩散模型与逆动力学网络,使用本体感觉历史和物体几何描述,将操作者的粗略动作指令细化为关节目标,无需逐步输入特权物体状态。作者报告策略零样本迁移至宇树 G1,完成篮球、纸箱的肩部触碰与腋下收纳,以及纸箱取放搬运。在该论文的真机设置下,按物体往返与完整货架序列统计,WBD 完成 45/50 次试验,GMR 直接重定向为 9/50,SONIC 为 2/50;其中 WBD 完整货架任务完成 7/10 次。
全部试验由同一名熟练遥操员执行,因此这些结果应理解为特定任务中的遥操控制改进,而非自主通用操作能力。
将灵巧操作的学习对象从末端扩展到手臂—躯干之间的接触转换,为粗略遥操指令下维持物体支撑提供了一条技术路径。
证据为作者论文实验,不是独立复现;真机测试限于篮球和纸箱,并依赖单名熟练遥操员。训练未纳入腿部抓持,仍有失去接触并掉落的失败,不能外推至任意物体或自主操作。
该论文针对重工具或大负载引起的人形机器人惯性变化,将全身模型预测控制(WB-MPC)、扩展卡尔曼滤波(EKF)与 VR 遥操作接口闭环结合。EKF 在线估计满足完整物理一致性约束的惯性参数,并更新控制器的全刚体动力学模型,以补偿未知负载所需的前馈力矩;操作者提供运动参考,动态平衡交由 WB-MPC 处理。方法通过广义 log-Cholesky 参数化估计相对标称惯性的偏差,并为弱可观参数引入虚拟测量正则化。
在预录擦窗轨迹仿真中,左前臂末端增加 5 千克负载后,启用估计器使水平、竖直任务空间 RMSE 分别由 67.8、389.2 毫米降至 6.4、14.2 毫米。真机采用人工向前臂安装配重的方式模拟抓取;在 4.5 千克非对称负载遥操作测试中,作者报告估计器恢复了新增负载的 95%。将负载时的运动指令在空载下回放比较,竖直 RMSE 由空载 13.2 毫米增至负载 22.4 毫米,说明补偿后仍有跟踪误差。上述结果均来自作者的仿真与真机实验。
该工作展示了将在线惯性辨识直接接入全刚体预测控制的路径,使未知负载补偿与遥操作中的平衡控制协同工作。
真机负载由人工安装,且因左臂硬件问题仅加载右臂,不能等同于自主抓取验证。论文未开展用户研究,更动态操作下的鲁棒性仍待研究;现有证据是作者实验,不是独立复现。
作者提出 DemoStream,将任务与运动规划(TAMP)的目标从生成可行示范推进到优化示范质量,以改善行为克隆策略的学习效果。方法引入批量条件采样器和批量计算图优化,并行探索大量规划解;实现中由 CPU 运行批量优化逻辑,GPU 执行采样与代价函数计算。作者在仿真中消融动作空间、代价函数和批量大小,报告在 Stack-Three 任务上,最小化任务空间代价并使用任务空间运动规划器,在所测动作空间中取得最高策略成功率。
批量大小实验显示,增大逆运动学批量可缩短示范、收窄长度分布并提高策略成功率,但放慢执行速度的实验也表明,示范更短本身不足以解释学习效果。真机部分在 Franka Panda 上测试叠块、香蕉入桶和苹果青柠装盘,每项任务采集 75 条示范,吞吐量为每小时 66 条;各任务训练扩散策略,并各评测 20 次,作者报告平均成功率 67%。这一流程仍由人工完成随机复位和成功标注,不能等同于全流程无人采集。
作者实验强调:规划能完成任务不等于其示范适合模仿学习,示范优化应关注下游策略效果。
这是作者论文中的实验结果,并非独立复现;真机结论限于所测任务与评测设置,且仍需人工复位和成功标注。
作者提出面向微型飞行器的事件驱动神经形态视觉导航系统,将事件相机、脉冲神经网络与神经形态处理器连接为导航闭环。感知模块从事件流预测深度并提取几何特征,导航模块结合飞行器状态和目标方向,经群体编码生成脉冲输入,再输出动作并转换为轨迹点;训练结合深度辅助监督与轨迹损失。作者在六个相同仿真环境中与对应 ANN 模型比较,报告成功率、平均航程和导航时间总体相当。真机室内、室外各进行十次试验,分别成功七次、九次。
能耗结果需分开理解:感知模块按 45 纳米 CMOS 运算成本估算的单次推理能耗为 ANN 对应模块的 19.57%;导航模块在 Intel Kapoho Bay 上的单次推理能耗为 0.81 毫焦,对照 ANN 在 Orin NX 的 10 瓦模式下为 3.02 毫焦,采用动态功耗除以推理速率的口径,并非整机飞行能耗。部署也并非全部在机载神经形态硬件上完成:感知网络仍在 Orin NX 上模拟运行,导航网络经无线连接的主机与 Kapoho Bay 协同执行。
这项作者论文把事件感知、脉冲决策和硬件执行接入真机导航闭环,为低推理能耗的微型飞行器导航提供了系统级可行性证据。
尚未实现全部网络的机载神经形态部署,位姿估计仍依赖帧式相机;模块能耗结果不能等同于整机节能。代码、权重和数据仅承诺后续公开,不能据此视为已开放工程产物。
这篇作者论文研究:在固定训练样本预算下,将更多样本分配给潜在动作(LA)或未来视觉(FV)预测,能否比继续增加直接动作监督更有效。作者构建双流多模态扩散 Transformer 与样本级路由器,每个样本只承担动作或一种辅助预测损失,并比较三种 LA 和三种 FV 目标。在 LIBERO、CALVIN 及四项真机操作任务中,合适的辅助监督配置可在直接动作预测仅占一半或更少样本时超过纯动作训练。
CALVIN 上,V-JEPA 2 的 P25 配置将预期 75% 的样本用于 FV 预测,平均任务链长度为 4.522,同源 P100 对照为 4.091。真机实验每项任务测试 20 次,采用允许部分得分的完成度评分;P50 下,三种 FV 配置在四项任务上均高于所有 LA 配置及纯动作基线。但收益并不普遍:LIBERO 中所有测试的 P25 配置均低于各自 P100 对照。
作者据此主张联合设计预测目标与监督分配,而非默认让直接动作预测占主导;这里的预算匹配仅指样本使用次数,不代表计算量或训练耗时相同。
将“预测什么”与“如何分配监督”变为可控的训练设计变量;同源对照有助于区分路由分配的影响与目标表征、辅助专家差异。
结果属于作者论文实验。FV 辅助样本仍以示范动作作为条件,不能理解为同比减少动作标签使用;最优分配依赖目标、基准与预算,跨配置比较不能仅归因于路由。
作者提出兼容 ROS 2 的开源反射引擎,针对控制模式“先停再切”造成的任务中断改进多模式控制器。方法将通信实体创建、内存预分配与端点建立移至初始化阶段,使实时循环中的切换简化为无锁指针重赋值,保持 1 kHz 控制周期,并集成接触、关节位置及速度越限反射。
作者在 Franka Panda 机械臂上比较标准 ros2_control、原始及改进控制器,每种配置记录 100 次切换;平均延迟分别约 210、1.8 和 0.01 毫秒,改进方案最慢一次仍低于 0.1 毫秒。30 次接触试验中,超过 15 N 外力的平均缓解时间为 0.122±0.013 秒,未触发底层硬件限制;这不是控制器切换延迟。
多阶段清桌任务各方案执行 10 次,改进方案与基线耗时分别为 14.09±0.06 和 14.58±0.10 秒;峰值轨迹加加速度由基线 499.0±96.9 降至 155.4±40.6 m/s³。论文声明代码、示例与文档公开,但结果限于作者实验,不构成独立复现或通用安全证明;反射与阈值依赖应用,主动反馈不能削弱碰撞初始瞬态力峰值。
为 ROS 2 控制系统提供减少模式切换中断、衔接反射响应的工程路径,而非要求采用单一统一控制策略。工程开放仅按论文声明表述,不等同于独立研究复现。
实验限于作者所述 Franka 平台、任务和预定义反射行为;安全阈值及反射选择依赖应用。主动反馈不能削弱碰撞初始瞬态力峰值,不能把亚毫秒切换理解为同等时长的碰撞力缓解,也不能据此认定普遍安全。任务耗时采用结果表原值,不沿用正文的百分比表述或另行计算降幅。
据发布方数据卡,Scale AI 与 Hugging Face LeRobot 联合发布的 FineART 是双臂操作轨迹数据集,由 Scale AI 的 Physical AI 团队采集和标注,含 40,543 段遥操作轨迹、1,718 小时数据、533,913 条子任务标签及 151 项任务,均采自 Trossen Stationary AI 双臂机器人。每段轨迹都有密集人工子任务标注;标注人员独立于遥操作人员,不使用视觉语言模型辅助,并由第三支团队审核。
子任务按连续、不重叠的时间段组织,发布方将其定位为高层预测语言子任务、低层据此生成动作的分层策略训练数据。数据采用 LeRobot v3.0 格式,全部位于训练划分,需自行留出评测轨迹。发布方还报告,FineART-VLA 经子任务标注中期训练后,空间指令任务成功率从 32% 升至 100%;带有人类子任务指导的长时程任务从 16% 升至 76%。这些是数据卡中的发布方结果,并非本材料提供的独立复现,不能外推为通用操作能力提升。
密集子任务语言及其时间对齐,为子任务预测与低层动作执行相结合的训练提供数据基础;这是发布方描述的训练用途,不等于已经证明通用能力提升。
数据卡称约 77% 的时长属于日常抓放与分类,接触丰富任务属于长尾,不能视为任务覆盖均衡。性能数字仅转述发布方数据卡,长时程任务保留人类子任务指导条件;本材料未提供独立复现,不作跨协议排名或通用能力推断。
作者提出闭环世界—动作模型 LoopWAM,从自身及其他已部署策略产生的成功、次优和失败轨迹中学习,而非只模仿成功行为。方法按数据来源分别采样视频与动作噪声,让部署轨迹中的低噪声动作帮助预测其视觉后果;再以质量条件引导和质量加权监督,降低对次优动作的模仿、屏蔽失败动作的直接监督,同时保留所有质量轨迹的视频监督。视频与动作令牌在同一次并行去噪中双向交互,使后果表征直接参与动作生成。训练循环将专家示范与累计部署经验合并,更新后再部署。
作者报告,在真机基准 RoboChallenge Table30-V2 上,三轮部署与训练使总体成功率从 23.67% 升至 43.33%,最终得分 56.80;在仿真基准 RoboTwin 2.0 和 RoboCasa365 上,未额外进行具身数据预训练,分别取得 94.5% 的平均成功率和 49.5% 的总体成功率。叠衬衫实验则从经过单任务专家后训练的模型出发,两轮部署改进将成功率由 13.20% 提高至 55.56%。
这些结果分别对应多任务学习与单任务后训练场景。
提供一种利用混合质量交互历史的训练路径:失败轨迹仍可监督物理后果学习,而不必直接模仿其动作。
结果应按作者实验解读,不视为独立复现。榜单证据仅为评测时快照,不能代表持续排名;RoboCasa365 采用 50 任务评测,其未见组合任务成功率为 14.9%,不宜外推通用能力。
作者提出广义执行器网络(GenAN),针对肌肉与肌腱驱动中的非线性、迟滞和摩擦,将学习得到的执行器模型与刚体动力学仿真结合。网络根据关节位置和控制信号的历史预测关节力矩,以仿真下一步位置与实测位置的差异训练,无需力矩传感器。研究先采集 2500 条随机开环轨迹,共约 1.4 小时真机数据,再在加入执行器模型的仿真中训练强化学习策略,最后零样本部署到四自由度气动人工肌肉驱动、肌腱传动的 PAMY2 机械臂,完成目标到达、接球入杯和乒乓球任务。
方法采用五个模型组成的集成,在仿真每一步随机选择一个模型,以缓解策略对模型不确定性的过拟合。作者报告,乒乓球策略在 100 次试验中成功 96 次,成功定义为将球回到对方半台。不过,更准确的执行器仿真并未带来所有任务上的策略优势:相较采用力矩损失训练的 Torque GenAN,GenAN 仅在乒乓球任务上表现更好,另外两项任务表现相当。
提供了一条无需力矩传感器、将复杂执行器学习与已有刚体仿真结合的策略训练路径;场景增删物体不必重新训练执行器网络。
证据为作者论文中的 PAMY2 实验,不作跨平台能力外推。训练数据需充分覆盖工作空间;更大负载变化和密集接触可能需要补充代表性数据,长期使用中的动力学漂移还需定期采集数据并重训。
这篇论文审视了 Bench2Drive 闭环驾驶评测协议中的舒适度与导航信号问题。作者使用官方发布的检查点,在完整的 220 条路线中重新评测八个模型,发现原舒适度指标存在采样率、平滑窗口、角度单位和偏航导数处理错误;固定时间分段还让静止车辆不断积累“舒适”片段。作者修正计算、先对完整轨迹平滑再分段,并改用基于距离的分段方式,使舒适度与静止时间的相关系数从 r=0.97 降至 r=0.06。
在匹配驾驶速度后,原指标呈现的驾驶得分与舒适度强权衡不再可检测,但八个模型不足以排除较弱关系。导航方面,默认控制器可能以朝向路线目标点的转向覆盖模型自身决策,评测目标点的分布也可能偏离训练数据。作者在 Dev10 子集上对 UniAD、VAD 的实验显示,移除转向覆盖的影响高度不对称;随后对齐目标点采样,两者驾驶得分均有改善,但 VAD 的分布偏差仍未完全解决。作者计划发布独立修复代码,使保留逐帧轨迹日志的使用者无需重跑仿真即可重算舒适度。
评测应区分模型决策与控制器代劳,并检查指标是否奖励停滞;已有逐帧日志可支持舒适度重算,但代码发布仍是作者承诺。
这是作者论文中的重评测结果。导航修正在 UniAD、VAD 上展示,其余六个模型的训练目标点采集方式未审计;舒适度分析仅含八个模型,不能排除较弱权衡。
作者提出 MAIA,将接触密集型操作的异常预判建模为执行前的动作评估:视觉—动作—力世界模型从正常执行中学习预期交互动力学,预测计划动作对应的未来视觉与力响应,再由轻量异常头估计异常是否发生及其时间占比。配套 CRIA 数据集包含 18 项真实操作任务的 2,852 条轨迹,提供同步多模态信号与逐帧异常标注。实验使用 13 项已见任务训练,另留 5 项新任务,每项用 10 条训练轨迹适配。
作者报告,已见与新任务的平衡准确率(bACC)分别为 0.765 和 0.710,预警提前量中位数分别为 28.0 和 25.1 步;该提前量仅统计成功预判的事件,并非所有异常均能提前发现。真机部署时,冻结的 π0.5 策略每次生成 8 个候选动作块,MAIA 选择预测异常概率最低者;在 18 项任务、每种方法每项 30 次试验中,总体成功率由 52.6% 升至 61.5%,无需重训底层策略。这些是作者论文报告的结果,新任务成绩包含适配,不应解读为零样本通用能力。
这项工作展示了世界模型的一种用途:预测计划动作的物理后果,为执行前的候选动作筛选提供依据,而不只在异常出现后报警。
有限预测窗口与固定历史长度可能限制长时异常预判;实验仅覆盖单一机器人及固定力/力矩传感配置,跨本体、跨传感器泛化尚未验证,也未解决根因诊断或自主恢复。
作者提出 LIBERO-CTRL 六轴配对评测协议,检验单轴测试能否刻画视觉—语言—动作策略面对同时扰动时的鲁棒性。协议覆盖相机、光照、机器人初始位姿、传感器、执行与语言扰动;对同一初始状态,分别施加各轴扰动,再将相同扰动值同时施加。主评测涉及六种语言条件策略、三个严重程度等级,使用固定的 400 个任务—配置配对。分析区分两类结果转变:“涌现失败”指各单轴均成功、同时扰动却失败;“补偿成功”指至少一个单轴失败、同时扰动却成功。
两者对总体成功率的影响方向相反,可能相互抵消。作者报告,UniVLA 在轻度扰动下,两类转变的净差异置信区间包含零,但 29.00% 的配对配置仍改变成败结果;全部受测条件中,最大结果不一致率为 VLA-JEPA 中度扰动下的 34.50%。作者还对三种随机推理策略更换随机种子复测,发现两类转变分量较稳定,但其较小净差异的统计判断更敏感。论文据此主张,不能仅凭单轴汇总成功率判断复合鲁棒性,应保留逐实例配对结果并分别报告两个方向的转变率。
为鲁棒性评测提供更细的诊断方式:在已有配对单轴测试上增加一个匹配的同时扰动条件,揭示总体成功率可能掩盖的双向结果变化。
证据来自作者论文,随机性复测也是作者实验,不应视作独立团队复现。研究限于仿真中的单一本体,不能外推任意真实分布变化;同时施加六轴也无法定位具体由哪些低阶扰动组合引发结果转变。
VLA 一次生成动作序列可减少重复推理,但执行多长后重新观察与规划,会影响任务成败。作者提出策略对齐预测验证器(PAV):在执行前预测候选动作前缀的后果,判断原策略能否继续完成任务,而非仅依据动作生成稳定性或预测与观测的一致性。方法在 VLA 内部融合观察与指令的任务条件表征空间中预测未来,用验证器给出局部有效性分数,再累积并归一化这些分数,选择执行长度。训练依赖轨迹终局成败监督,并用定位先验将失败轨迹中的降分集中到较少的动作扩展,避免把其中有用的行为一并判低。
作者在 π₀、π₀.₅ 及 LIBERO、RoboTwin 2.0 和真机操作上评估该方法。其中,LIBERO 的 π₀.₅、动作块长度 50 设置下,相比固定执行 5 步,成功率提高 7.50 个百分点,策略查询减少 63.3%。真机放置、堆叠和按键三项任务中,PAV 平均成功率为 74.4%,固定执行 10 步为 41.1%;每回合平均重规划次数分别为 12.87 和 36.54。这些结果属于作者报告的执行策略实验,不代表通用操作能力。
将未来预测用于判断已有动作提案可以执行多远,而不是生成新动作,为既有 VLA 的执行长度选择提供另一条路径。
部分已发表基线采用不同协议,不宜据此统一排名;不同检查点也使动作块长度的影响无法单独归因。实现仅承诺作为补充材料提交,不能据此认定已经开放。
作者提出 Fast-VLA,将一次性任务理解与反复执行的闭环控制分离:每个回合开始时,冻结的 4B 视觉语言模型根据指令和初始多视角图像生成固定的多层键值任务记忆,随后退出重复控制回路。在线执行器把按时间和机械臂索引的可学习查询与当前视觉、本体感觉反馈融合,再检索任务记忆并预测动作块,无需重新运行大模型。
作者报告,RoboTwin 2.0 的 Clean 和 Randomized 成功率分别为 92.46% 和 92.40%,标准 LIBERO 与 LIBERO-Plus 分别为 95.95% 和 79.11%。在相同硬件测量中,相较 Faster-WAM(HUST)、DM0.5 和 Fast-WAM,RoboTwin 摊销策略推理耗时缩短 10.9—17.1 倍,计入了回合开始的一次性调用。
VLM 卸载后在线常驻显存为 1.22 GiB,但预填充峰值为 12.11 GiB。测试时固定执行器权重、替换任务记忆会导致成功率明显下降,支持执行器依赖与当前回合匹配的记忆,而非忽略任务上下文。
论文提供了一种推理优化路径:固定任务上下文不等于开环执行,在线执行器仍利用实时视觉与本体感觉反馈更新动作。
结果属于作者论文评测;基线成功率混合采用已发表报告、基准汇编和作者对已发布检查点的评测,并非全部统一重测。回合中目标改变或新增指令尚未探索;低在线常驻显存也不代表低初始化峰值。
作者提出单目视觉安全认证框架,以光流编码的无尺度、深度归一化相对运动构造碰撞锥与安全约束,避免显式重建障碍物状态或度量世界模型。并发学习观测器估计归一化相对速度并给出误差界,通过角度膨胀和机器人轮廓裕量形成鲁棒视觉碰撞锥控制屏障函数,再由最优衰减二次规划按需修正名义控制。作者在 TurtleBot3 上开展仿真与真机验证;真机关闭 RealSense 深度流,仅依赖单目视觉和本体里程计,在 Jetson Orin Nano 上完成感知与控制。
仿真观测器测试中,在线误差界覆盖 98.3% 的评估样本;开放实验室与狭窄走廊的静动态障碍真机测试中,100 次试验有 93 次无碰撞。作者将其余失败归因于障碍物极近距离进入视野,感知更新不及时。实验旨在检验该表示对安全认证的支持,而非建立导航性能基准。安全证书仅针对选中的关键障碍物,并依赖足够有信息量的历史观测;轮廓裕量仍使用单目深度估计,采用统计裕量时也不能一概视为确定性保证。以上均为作者报告,不是独立复现结果。
该工作的技术意义在于尝试直接以光流中的相对运动构造显式安全约束,并将估计不确定性纳入碰撞锥几何;材料支持的是作者在所述条件下的实现与验证,不支持跨方法性能排名或通用安全能力结论。
证据来自作者论文,而非独立研究复现。安全证书针对选中的关键障碍物,依赖有信息量的历史观测,且感知更新之间保持碰撞锥裕量不变;近距离突然进入视野的障碍物不在其所述覆盖条件内。采用统计裕量时提供的是置信保证。轮廓裕量使用基于静态障碍假设的单目深度估计,因此不能解读为完全不估计深度。
作者提出视觉—语言—动作模型 ERVLA,重新检验具身思维链(CoT)如何帮助机器人操作。研究构建了包含 978,743 条轨迹、226.3M 个样本、2592.5 小时数据的结构化语料。受控实验使用统一骨干与自回归 CoT+FAST 动作接口,发现单独的高层目标、规划等字段不足以改善控制,运动描述和图像空间轨迹更有效;带噪坐标监督还可能造成“CoT 污染”。
ERVLA 以 CoT 监督和推理随机丢弃训练骨干,通过辅助候选动作分支塑造动作相关表征,并截断键值缓存,使扩散动作模块仅读取语义前缀,推理时不必生成显式 CoT。作者报告,在 LIBERO 后训练、零样本迁移至 LIBERO-Plus 的设置下,平均成功率为 86.9%;VLABench 平均成功率为 53.2%。真机评测包含 20 项任务、每项五次试验;语义任务成功率由对照 π0.5 的 31 升至 42,长程任务进度分数由 38 升至 55。
上述结果属于作者论文实验,不应解读为跨协议的通用能力排名。
研究支持将具身 CoT 作为塑造动作相关表征的训练信号,而非强制的推理期文本前缀;其价值取决于监督是否可靠、是否与动作学习有效耦合。
作者承认标注质量仍限制收益,推理随机丢弃与知识截断不能消除这一问题;执行中何时动态刷新推理仍待研究。真机结论应限定于论文所设任务和试验协议。
这篇作者论文区分指定“做什么”的任务指令与指定“如何执行”的方式指令,在 SIMPLER 的 WidowX 任务上诊断五类 VLA。离线实验比较换种子重试、追加生成的纠正及反向纠正:各模型均以重试恢复最多失败回合,生成的纠正未明确优于反向纠正,不能预设其全部正确。在线统一模式在每次监测时提供子步骤指令,使所有受测模型的任务成功率下降。作者假设,每回合固定任务指令的监督结构限制了方式指令遵循,因此保持演示不变,加入分段运动描述,并设置相同训练协议的原始指令对照。
在筛选出的、纠正与反向纠正所提方向轴均明确反转的失败回合中,丰富指令模型的方向响应率为 84.4%(840 回合),公开模型为 53.5%(581 回合),对照为 52.7%(896 回合)。该指标比较两条轨迹的相对位置,不代表完整纠正执行率,任务成功率也未一致提高。作者另提出 SIMPLER-IN,将路径、抓取部位和放置位置的必要条件仅通过语言给出;受测模型仍未可靠遵循,所得响应未迁移至严格或分布外要求。结论限于单一本体、仿真器与训练数据组合下的短时程抓放任务。
研究提示应将动作对语言内容的响应与任务完成率分开评估;SIMPLER-IN 提供了检验必要语言条件是否被执行的测试场景。这是作者论文中的诊断与实验结果,不作为独立复现结论。
实验仅覆盖 WidowX、SIMPLER 与 BridgeData V2 组合下的短时程抓放任务。方向响应指标仅针对筛选后的失败回合,衡量纠正相对反向纠正的方向性轨迹差异,不代表整条纠正被遵循。错误指令可能解释部分失败;实验未分离分段时间对齐与方式内容的贡献,训练预算与 LoRA 设置也限制外推。Path 使用观测中不可见的障碍,应理解为方式指令遵循测试,而非真实操作能力评估。
作者提出 OneWM,在同一时序因果视频—动作架构中,研究世界预测与动作学习能否相互促进。框架通过因果联合注意力连接视频与动作专家,并在每个训练批次混合全干净动作、干净前缀加噪声后缀、全噪声动作三种设置,使动作既作为未来视频预测的条件,也作为策略学习的目标。作者在 LIBERO、LIBERO-Plus 和 RoboCasa365 上评估策略与世界预测,并开展积木堆叠、积木插入和早餐摆放真机实验。
同架构内部比较中,OneWM 的 LIBERO 平均成功率为 94.95%,动作屏蔽与噪声动作条件基线分别为 92.45% 和 92.60%;作者还报告真机三项任务均优于动作屏蔽基线。反向比较中,相较仅学习干净动作条件视频预测的同架构世界模型,OneWM 在三个仿真基准上的 PSNR、SSIM 和 LPIPS 均更优,支持动作学习对条件预测的帮助。部署策略时无需生成未来视频。混合比例实验同时提示,增加干净动作训练并非越多越好:较大幅度增加其占比会削弱策略泛化。
作者的受控比较支持:在所测因果架构与任务中,显式学习动作的视觉后果与学习生成动作可提供互补监督,而不只是单向利用视频预测辅助策略。
结论限于作者论文中的实验设置,不外推通用能力。真机每项任务每模型仅评估 15 次;视频预测评测集由作者基于专家轨迹构建。条件预测指标改善也不意味着所有分布指标均改善,例如 LIBERO 上的 FID 不及同架构世界模型。
作者论文提出 ProTracer,将机器人操作失败诊断从判断是否失败、失败类型及原因,扩展到回溯定位失败起点:利用完整执行记录,找出最终失败且不再返回有效任务完成轨迹的最早偏离时刻。框架无需额外训练,以夹爪和末端执行器动态检测动作边界、选择关键帧,再将机器人状态转为结构化自然语言,与视觉证据共同输入视觉语言模型。作者同时引入含同步视觉、本体感觉及起点标注的 FailTime,覆盖短流程与新采集的长流程真机执行。
主实验采用 Gemini-3.1-pro;在 FailTime-Short 上,零样本 ProTracer 的起点平均绝对误差为 0.59 秒,0.5 秒容差准确率为 71.18%;同骨干密集帧提示加原始传感器输入分别为 0.90 秒、48.03%。加入可选反思经验后分别为 0.47 秒、77.34%。长流程零样本误差为 4.06 秒,短流程亚秒级结果不能直接外推。以上为作者实验报告;仅明确 MAE 在正确检出的失败执行上计算,材料未明确容差准确率的统计分母。
将本体感觉作为时间线索、视觉作为语义证据,为失败轨迹的事后分析提供方法;作者指出,起点定位可支持更精细的时间归因与成功轨迹前缀回收。
这是使用完整执行记录的离线诊断,不等同于在线预警。结果属于作者实验而非独立复现;起点平均绝对误差(MAE)仅在正确检出的失败执行上计算,所给材料未明确容差准确率的统计分母。
作者提出 A-SLS,一种基于系统级综合(SLS)、将未来参数学习纳入规划的鲁棒自适应模型预测控制框架。方法把在线参数估计并入物理状态,在规划时预测未来观测后仍可能存在的参数不确定性,并保留过程扰动、参数误差与估计更新之间的相关性,构造更紧的可达管束,而非假设未来会获得有利测量。作者同时开发 GPU 并行求解器。
在 61 状态、8 个不确定参数、12 个控制输入的四足全身控制仿真中,A-SLS 在 40 次运行中成功 38 次并保持安全避障间距,非自适应 SLS 仅 24 次保持稳定;A-SLS 求解时间中位数为 16.1 毫秒,低于 32 毫秒预算。真机部分,Crazyflie 在线学习未知的推力—加速度参数,在 15 次实验中稳定到达目标;初始估计偏差导致短暂掉高,参数估计约在 0.55 秒时收敛并恢复高度,求解中位数为 8.15 毫秒。
计算平台需区分:仿真使用 RTX 4090 GPU,真机实验使用 Apple M4 Pro CPU。以上为论文作者报告的实验结果。
将未来可保证的学习收益直接纳入鲁棒规划,使控制器能够利用预期的管束收缩,并选择有助于降低参数不确定性的运动。
递归可行性需附加鲁棒正不变终端集、终端控制器等构造并满足相应假设;四足实验还包含超出所设扰动界的模型误差,其成功结果不等于对越界扰动的安全保证。
作者提出 EgoJEPA,尝试绕过基于规则的人到机器人动作重定向,从第一视角人类视频学习可跨本体复用的动作表征。方法分三阶段:先以相邻帧手部标注差分为条件,通过 JEPA 式视觉预测学习与动作效果关联的潜在动作;再用联合流匹配,同时预测未来视觉动态和潜在动作;最后利用机器人示范及本体专用输入、输出适配器,将共享表征接入目标机器人,并联合微调视频与动作 Transformer,而非仅训练适配器。
作者在 Sharpa 灵巧手、Wuji 灵巧手和 Xense Tac UMI 夹爪上测试五项真实操作任务。域外测试覆盖未见物体及超出训练分布的位置、朝向,各任务每种设置进行 20 次试验,以完整完成任务判定成功。论文报告域外平均成功率为 74%,重定向基线为 65%;五项任务累计墙钟训练时间从 743.2 小时降至 392.7 小时,减少 47.2%。该时间口径包含重定向基线的 CPU 标定环节,不是 GPU 小时;其效率收益来自跨本体复用前两阶段模型。
提供了一条以共享潜在动作连接人类视频预训练与机器人控制的路线;作者实验支持其在所测本体间复用预训练、降低重复适配开销的价值。
结果限于作者的五任务、三本体评测,不宜外推通用操作能力。方法仍依赖手部标注与机器人示范;严重时序错位、长时间遮挡及精细接触任务仍构成限制。
作者研究了块稀疏特征提取器(BSF)如何为视觉—语言—动作模型提供可解释的行为干预接口。与稀疏自编码器(SAE)用单一方向表示特征不同,BSF 用低维子空间容纳同一概念的相关变化,发现的特征涉及视觉、语言、本体状态和任务进度。作者在相同数据与训练流程下比较两类方法,并在 MolmoAct2 上开展语义、视觉及几何引导实验:保持输入图像和指令不变,通过修改内部特征,将预测动作从指令指定物体转向另一物体。
在三组物体、共 60 次闭环语义重定向试验中,BSF 的任务完成率为 93.3%,SAE 为 75.0%,平均分别使用 2.3 和 2.5 个特征;这里的特征分别指 BSF 块与 SAE 标量。数据塑形方面,作者利用 π₀.₅ 中的失败抓取恢复特征定位 DROID 训练片段,在微调时屏蔽相关动作块的损失,涉及 1.38% 的动作令牌,保留观测,推理时不再施加特征干预。
作者报告该处理延迟了失败恢复,并在其无诱导失败的抓取放置评测中保留任务表现;这不等于证明恢复能力被彻底移除。
提供了从内部特征干预到训练数据归因的行为塑形路径,使可解释性分析与特定行为修改相连接。
部分干预仅做开环评测,BSF 并非全面优于 SAE;恢复实验正文与表 2 的试次数、重开时间不一致,因此不采用其倍数结论。
作者提出 KODA,将人类第一视角示范转换为人形机器人全身视觉—语言—动作(VLA)训练数据,重点解决运动与机器人视角观测的对齐及跨控制器复用。流程以稀疏跟踪器和基于采样的指令优化生成经仿真检查的全身轨迹,再由轨迹确定机载相机位姿并合成观测。全身运动轨迹、合成观测和任务指令组成可复用的规范记录,不含控制器专属状态或动作标签;后续针对部署控制器生成状态—动作监督,与对应真机示范共同训练。
作者在宇树 G1 四项移动操作任务上测试 SONIC 与 HEFT:每任务固定 50 条机器人示范,加入 100 条转换后的人类示范,在人类示范覆盖、机器人示范未覆盖的条件下,宏平均成功率分别提高 45.0 和 46.25 个百分点。两种控制器的该指标随已测试数据预算总体上升,但中间预算的单任务及 Robot-ID 结果存在波动。这是补充机器人示范条件覆盖的作者实验,并非对所有训练数据之外条件的零样本泛化测试。
实验中的 400 条人类片段均带有手机录制深度,不能据此认定纯 RGB 估计深度路线已获同等验证。
价值在于将可复用的运动—观测记录与控制器专属监督分离,为固定机器人数据补充条件覆盖;跨控制器复用证据限于所测试的 SONIC 与 HEFT。
这些是作者论文结果。每配置仅训练一次,每任务、每条件进行 20 次真机试验;细粒度手—物交互尚未充分复现。复用图像对应规范轨迹,记录的身体状态对应控制器实际运动,跟踪不完美时两者仅近似对应。
该基准为区分“做成任务”与“按偏好执行”提供受控评测条件,有助于定位个性化操作的失败模式,而非仅依据任务成功率判断能力。
证据来自作者论文实验,不是独立复现。基准仅覆盖预定义、语言可表达且可自动测量的仿真偏好;没有真机或长期用户研究。组合仅涉及两个偏好,冲突评测不检验冲突检测或向用户澄清。