STeP:以信号时序逻辑为视觉语言模型动作生成提供精确规范
机器人遵循自然语言指令,不仅要完成目标,还要在执行过程中满足空间、时间与逻辑要求。作者提出STeP,将这些要求显式表达为信号时序逻辑(STL)规范,而非仅隐含在学习策略中。
展开阅读
具身图谱在图谱中把握具身智能本周聚焦STeP、SAKI与MINT三项进展,分别解释显式约束如何贯通执行、可适配交互参考为何不能被反馈控制替代,以及视觉预测失效后如何回退。重点区分任务完成、约束满足与断流后的能力保留,并保留比较所依赖的输入、实验条件和适用边界。
机器人遵循自然语言指令,不仅要完成目标,还要在执行过程中满足空间、时间与逻辑要求。作者提出STeP,将这些要求显式表达为信号时序逻辑(STL)规范,而非仅隐含在学习策略中。
展开阅读现有组合式场景重建多将物体视为刚体,难以直接生成适合柔性物体仿真的几何与物理模型。作者提出CoDimRecon,从多视角RGB图像重建包含刚体、关节物体和可变形物体的可编辑场景。
展开阅读行人环境中的移动机器人不仅需要跟踪精度,还需要轨迹及时可用、漏检期间位置可信且身份连续。作者指出,汇总分数难以解释失效时机,不同检测输入还会混淆检测器与跟踪器的贡献,因此提出共享检测输入、仅评估跟踪器的部署导向协议。
展开阅读机器人遵循自然语言指令,不仅要完成目标,还要在执行过程中满足空间、时间与逻辑要求。作者提出STeP,将这些要求显式表达为信号时序逻辑(STL)规范,而非仅隐含在学习策略中。
框架由高层推理与低层控制协同工作:高层将指令转为整项任务的规范,再分解为子任务,并让持续性约束随各阶段保留;低层结合运动规划与模型预测控制,将STL鲁棒度纳入优化。在线监测在安全条件失守或目标超时后触发重规划,并携带执行历史,保留原任务上下文。
作者报告,在新建的LIBERO-Constrained基准49个任务—约束实例上,STeP的安全成功率为80%,SmolVLA和移除STL的VLM-MPC-Cost分别为14%和20%;该指标要求完成任务且满足全部约束。在LIBERO-PRO六种组合中的五种,成功率为54%—89%,但Goal套件的任务扰动下仅为16%。
这些结果需结合实验条件理解:仿真使用特权状态获取物体信息;LIBERO-PRO基线取自既有论文,STeP数据来自作者自己的运行,并非全部方法的统一重跑。
现有组合式场景重建多将物体视为刚体,难以直接生成适合柔性物体仿真的几何与物理模型。作者提出CoDimRecon,从多视角RGB图像重建包含刚体、关节物体和可变形物体的可编辑场景。
方法用场景几何先验约束尺度与布局,以生成网格作为形状参考而非最终资产。智能体按类别分别重建带半径的中心线、带厚度的流形壳和水密实体,供杆、壳与实体仿真使用;可复用仿真技能初始化物理模型,再通过行为测试诊断运动、几何、数值或材料问题,针对性修订。
作者在Replica与ScanNet++各三个场景上评测,报告其在所评方法中取得最低Chamfer距离和最高法向一致性,但Replica的F1落后于前两名。柔性物体结果属于仿真能力演示,并非跨方法量化比较。折纸对照保持机器人轨迹及其余参数不变,仅切换弯曲塑性:松开后一秒,弹性与塑性模型的折角分别为4.48°和114.97°。这一结果展示了数值有效不等于行为符合预期;所用材料参数仍是有效仿真参数,而非实测物性。
把重建目标从外观与几何扩展到求解器兼容的柔性资产,并用行为测试连接视觉重建与下游仿真。
结果来自作者论文,不能视为独立复现。HoloScene比较使用修改配置,ReplicateAnyScene部分模块由作者重实现;缺少实测真实动力学,不能据此认定恢复了真实材料参数或验证了真机效果。
行人环境中的移动机器人不仅需要跟踪精度,还需要轨迹及时可用、漏检期间位置可信且身份连续。作者指出,汇总分数难以解释失效时机,不同检测输入还会混淆检测器与跟踪器的贡献,因此提出共享检测输入、仅评估跟踪器的部署导向协议。
协议保留HOTA作为补充,分别测试初始化、检测中断续跟、身份恢复、近邻关联及负载相关运行时间。作者在JRDB上比较六个开源跟踪器、自研PedRefTrack及其真值辅助变体;后者理想化关联和运动估计,用于诊断改进空间,而非代表完美跟踪。
固定检测下,非真值辅助方法的HOTA为24.26%—29.67%,但能力表现明显不同。检测中断1.0秒后,没有非真值辅助方法能在超过半数合格事件中持续输出位置正确、身份不变的轨迹;在本次测试中,这比近邻关联更构成限制。Jetson Orin上的跟踪步骤吞吐随检测负载上升而下降,部分方法低于10 Hz目标。
这些结果采用作者修正的JRDB评测器,不能直接与官方榜单比较;运行时间仅覆盖跟踪步骤,不含检测推理。
将相近汇总分数背后的初始化、续跟、身份恢复和算力权衡拆开,有助于按部署条件选择跟踪器,而非只看榜单。
证据为作者论文实验,不是独立复现。研究仅覆盖一个数据集、一个检测器工作点和一个嵌入式平台;测试是部署代理指标,不能直接证明下游导航表现。
多旋翼能否把螺旋桨产生的下洗气流从干扰变成操控工具?作者设计“无人机足球”任务:无人机只能利用气流、不能直接接触球,将球推向目标,以检验下洗气流操控的可行性。
方法采用简化下洗模型与闭环强化学习:气流场随无人机横滚、俯仰改变方向,并在接近地面时向外扩散,再用阻力模型将气流速度转换为球的受力。作者使用PPO和逐步增加难度的课程训练策略,由策略向底层控制器提供航点,以闭环控制应对模型误差。
作者报告,策略在真机围栏内的4种配置中有3种将球送达目标;人机传球实验完成连续10次传球,第11次因球速过高失败。这些是特定配置的实验结果,不应解读为通用成功率。
部署使用Modal AI Starling 2 Max、148克且直径13.5厘米的小球,并依赖动作捕捉跟踪无人机和球。训练环境匹配硬件参数,下洗模型参数也按采集数据调整;实验在设有安全围栏的动作捕捉空间内进行。作者同时指出,策略有时无法提供足够的力来快速改变球的运动方向。
作者论文为将多旋翼下洗气流作为非接触操控手段提供了真机可行性证据,展示了简化动力学模型配合闭环学习控制的用途。
结论限于作者报告的小球、动作捕捉与安全围栏条件下的实验;不能据此外推通用操控能力。阻力模型未充分刻画非均匀湍流对球的影响。
人类视频中的交互若要用于长时程移动操作,机器人需要在场景、视角和自身构型变化时复用技能,而非照搬演示路径。作者提出SAKI,将视频技能获取、跨演示组装和闭环全身执行连接起来。
其核心是将交互要求与可调整运动分离:保留接触、抬升净空、朝向及终态关系,允许转运路径随布局改变。系统依据给定目标和任务依赖选择、排序技能,将物体角色绑定到当前场景,再以全身优化生成底盘与机械臂运动。执行时保留跨视角物体估计,视觉更新只修改未执行轨迹,并在技能切换时传递前一技能的终末机器人构型。
作者真机实验中,连续序列完成率为31/45(68.9%)。保留场景绑定、全身优化、视觉更新和重规划,仅以重建轨迹直接插值替代任务条件参考准备时,完成率为7/45(15.6%);论文报告准备环节带来53.3个百分点提升。实验依赖校准双目演示、任务上下文及兼容抓取或接触信息;序列成功要求所有阶段完成,且无中途重置或人工协助。
作者的消融结果支持:在相同下游求解与反馈条件下,准备可适配的交互参考仍有助于连续任务完成,不能仅靠全身优化和反馈替代这一环节。
结果按作者论文实验解读,不作为独立复现结论。技能组装使用给定目标与依赖,准备还需兼容几何和接触模型;证据不宜外推为无先验的通用任务规划能力。
作者构建了具有八块独立活动腕骨、二十二条驱动肌肉及柔顺指尖的仿人软体机器人前臂,对比正常腕骨、近端腕骨排融合和几何椭球骨架,在放松、腕肌激活、指肌激活及共同激活条件下测量刚度;实验统一采用0.6 N肌肉张力,以减少肌力分配差异的影响。
正常骨架仅激活指肌时,投掷飞镖运动(DTM)方向呈低刚度;腕肌与指肌共同激活后,该方向转为高刚度,刚度椭圆主轴转向通过作者的分层置换检验。融合近端腕骨排后,指肌激活时的低DTM方向刚度特征消失;几何椭球骨架在各激活条件下的椭圆方向变化很小。
腕骨运动测量显示,腕肌与指肌激活对近端腕骨排相对旋转的影响相反且差异显著,为骨间差异运动参与刚度调节提供机械证据;腕中关节的反向变化仅为未达显著性的趋势。作者据此提出腕部形态设计参考,但结果仅来自单台原型的准静态实验,未检验动态操作或不同制造样机间的一致性,也不构成独立复现。
这项作者真机研究为机器人腕部设计提供形态学参考:保留近端腕骨独立自由度、正交肌肉布局和非对称凹凸关节面,可能有助于实现类人刚度调节。
证据为作者论文中的机器人实验,不是独立复现。单台原型、准静态载荷限制了结论范围;腕中关节机制仍只有趋势支持,不能据此外推动态操作能力。
人形机器人接触人或环境时,既要顺应外力,又要保持任务所需的运动精度;末端各方向与机体也可能需要不同响应。作者提出CEER2,将方向性、可调末端柔顺与根部抗扰、随力运动结合。
方法采用两级分层强化学习:先训练较硬的全身跟踪策略,再将其冻结,训练高层指令残差策略。部署时,解析柔顺空间混合专家组合10个末端专家,使各笛卡尔轴刚度可在100—600 N/m内独立调节;根部则切换抗扰、低阻尼或高阻尼模式。交互力由本体感知历史估计。
作者在仿真的16种刚度配置、每种方法960次试验中,报告末端柔顺跟踪误差为0.0349 m、刚度平均绝对百分比误差为0.249,均低于同协议所列基线。真机使用宇树G1,不使用腕部力/力矩传感器;作者展示在线调刚度,并报告方向性末端柔顺配合根部阻尼完成3 kg箱体协作搬运,而各向同性低刚度设置下箱体滑落。真机刚度测量仅为近似估计,不能视作仿真精度的等量验证。
将末端各轴刚度与根部响应分开设定、同时执行,为操作接触与随人移动提供可组合的控制接口。
证据来自作者论文实验,不代表独立复现。真机手动力与位移测量只提供近似刚度;能力受底层跟踪策略约束,交互中仍存在重踏步、缺少针对性交互落脚调整的问题。
长隧道、管道等轴向均匀环境缺少纵向几何变化,激光雷达里程计容易沿行进方向累积漂移,局部扫描匹配无法独自解决。作者提出DeCOD,利用管接头、结构环等横截面地标,为退化方向补充位置约束。
方法将地标附近表面相对参考轮廓的有符号法向偏移展开为二维描述符,保留相似截面间的细微差异;匹配时处理反向行驶、部分遮挡和轮廓估计误差,再经几何验证筛选关联。通过验证的地标以5自由度几何因子接入位姿图,约束截面位置和走廊轴线,但不约束绕轴旋转。
作者在公共GEODE基准和自采地下管道数据上评估。Shield检索中,轴向容差为2.4米、验证内点至少15个时,Precision@1为95.6%,Recall@1为31.3%;前者只统计接受的查询,后者统计全部共同查询,不能将高精确率理解为全面召回。
轨迹评测另用至少9个内点的门槛:以BIEVR-LIO为基础,S8-Beta位置RMSE从61.597米降至0.768米。实验采用去程建库、返程查询;结果依赖重访时的可靠地标关联,不代表任意环境下都能消除漂移。
该工作展示了用横截面地标补充轴向几何信息、再与里程计联合优化的路线,而非仅抑制退化方向上的不可靠更新。
证据为作者论文实验,不是独立复现。可靠地标不足时仍会残留较大误差;当前方法面向单一主导弱轴,多自由度退化的扩展仍属后续工作。
世界—动作模型通过迭代去噪联合生成未来状态与动作,共享权重处理视频、本体感知和动作等信息流。作者指出,相近的局部量化误差可能造成不同的最终动作偏差,因此仅降低数值误差不足以保障控制表现。
论文提出4位量化框架SteerQuant,以动作影响图谱指导共享通道缩放,再按信息流和去噪步骤校准激活量化;每层保留一份静态量化权重,不为特定流提高位宽。配套推理引擎Rudder将缩放与输出补偿融合进低位宽内核,减少额外内核启动和中间访存。
作者报告,在两个LIBERO模型的W4A8、W4A4设置下,平均成功率较全精度最多下降0.8个百分点。RTX 4090上的三个模型测试中,去噪相对BF16最高加速2.23倍。真机实验采用双臂平台、三项任务,每项12次试验;W4A8端到端推理加速1.35倍,平均任务得分提高,但电池插入得分下降。该延迟不包含机器人运动执行时间,平均任务得分也不等同于全部任务的二元成功率。
作者结果支持以最终动作影响指导量化误差分配,并用融合内核减少缩放开销,为世界—动作模型的低位宽推理提供一种方法。
结论限于作者论文评测:效率测试使用RTX 4090,覆盖三个模型;真机仅涉及一个双臂平台的三项任务。不能据此外推其他硬件、机器人平台或通用操作能力。
机器人操作尚在进行时,模型能否理解当前进度,而非只认出画面内容?作者提出RoboChrono,以真实机器人执行和补充的徒手人类录像构建39个场景、34,713个评测实例,考察流式任务理解。
方法以因果观测边界约束输入:模型只能看到查询时刻及此前的观测,不能使用未来画面。七项任务分属识别、对齐和时间定位,覆盖当前动作、下一动作、帧匹配、帧排序等;18个多模态模型在无基准专用微调的零样本条件下接受评测。
作者报告,GPT-6-Astra的帧匹配准确率为98.3%,帧排序为68.3%;RynnBrain1.1-122B-A10B对应为95.4%和32.9%,表明匹配优势并不必然伴随排序优势。在五个开放权重模型、312个题干的平衡子集上,匹配问题消融显示:移除视觉后,当前动作识别下降22.1个百分点,下一动作预测仅下降0.7个百分点。作者据此提示,下一动作答案可能依赖任务和动作先验,不能仅凭预测得分判断模型是否利用了视觉历史。
该基准的诊断价值在于分开考察视觉识别与时间进度理解,避免仅用汇总分数掩盖能力差异。
这是作者论文报告的评测,不是独立复现或机器人闭环控制验证;数据包含成功执行录像及徒手人类场景,消融结论限于所测模型和子集,不宜外推通用操作能力。
作者提出SCOUT,针对机器人部署时未知物理属性与动力学带来的适配需求,用动作结果预测误差提供反馈,而非仅依赖标量奖励。方法以共享信念潜变量连接动作策略与前向动力学模型:元训练内循环依据动力学预测损失更新信念,外循环以模仿学习损失优化网络;部署时冻结全部网络权重,仅更新信念潜变量。
作者报告,歧义门仿真基准以最多20步内完全开门为成功标准,5步适配的SCOUT成功率为0.97,历史条件GMM为0.68。主实验使用仿真器真值逐点流;测试时改用估计流后,5步适配成功率为0.96,成功试验平均步数由12.8增至14.94。
真机实验将仅在仿真中训练的模型用于偏心杆抓取和推动;每种方法、每个重心位置各测试10回合,每回合最多10步。作者报告,相比非测试时训练基线,两项任务均需要更少尝试。以上是作者论文实验结果;验证限于物理歧义,尚未覆盖复杂几何约束、感知错误,也未集成大规模基础策略,不能据此外推通用操作能力。
提供了一条通过共享信念潜变量,将动作结果预测误差转为部署时策略调整的路线,而不是直接微调策略网络权重。
证据为作者论文实验,不作为独立复现或工程开放的证明。门任务主结果使用仿真器真值逐点流,估计流测试仍属于该仿真基准;真机验证限于偏心杆抓取和推动。论文明确尚未验证复杂几何约束、感知错误等失败来源,也未集成大规模基础策略。
机器人执行任务时若摄像头突然断流,策略须在缺少后续观测的情况下继续操作。作者提出MAIL-Bench,在RoboCasa365的18项已见任务、900个固定场景中,按腕部、第三人称和全部视觉设置缺失条件,评测闭环操作的能力保留。
基准以各策略自身正常成功轨迹的完成时间为参照,在30%、45%、60%处切断相应视角,持续至回合结束。MINT结合缺失视角训练与选择性视觉预测:训练时标记不可用摄像头并屏蔽视觉词元;推理时,腕部或全部视觉缺失使用光流外推,第三人称缺失使用动作条件世界模型。预测未通过可靠性检查后,本回合不再使用,策略退回缺失输入状态。
作者报告MINT改善了π₀.₅与GR00T N1.5的中断表现,其中GR00T N1.5的MAIL-Bench综合分由0.246升至0.462。该分数结合正常成功率与仅在正常成功场景上计算的中断能力保留率,并非断流后的总体成功率。作者还在AgiBot G2的四项桌面任务中开展真机比较,每项任务、每种条件测试10次。以上属于论文内验证,不能据此外推跨本体或通用操作能力。
将摄像头完全停止供帧与可用图像的内容扰动区分开,并把预测失效后的缺失输入控制作为回退路径,为研究视觉断流下的闭环可靠性提供评测与方法设计。
MAIL-Bench目前仅覆盖一种本体和18项RoboCasa365 Atomic-Seen任务,更广泛的基准与机器人平台验证仍属未来工作;世界模型还增加推理与显存开销。本条证据身份为作者论文实验,不作为厂商声明、工程开放核验或独立研究复现结论。
灵巧操作需要丰富的手—物体接触,但接触力新颖性信号可能不稳定,距离新颖性又不一定促成实际接触。作者提出ContactExplorer,将探索目标表示为手指—物体表面区域接触覆盖,而非仅鼓励接近物体。
方法用学习得到的哈希编码聚类物体当前与目标状态,分别累计接触次数,避免不同构型间的统计相互干扰;再结合接触后的计数新颖性奖励与接触前的能量式接近奖励,引导手指寻找尚未充分探索的区域。
作者在七项仿真任务上报告:使用40%训练预算时,平均成功率为75%,同预算各基线不超过47%。比较保持策略架构、观测和超参数一致,结果基于五个随机种子,平均值为七项任务均值的非加权平均。
真机杂乱物体分离采用教师—学生蒸馏,每种策略测试30次;相较仅用任务奖励,目标暴露成功率由36.7%升至76.7%,运送成功率由3.3%升至33.3%。暴露要求至少一半目标露出且可抓取,运送还要求抵达目标位置;两者差距主要来自暴露后未能接住并稳定物体。
作者实验支持将状态条件化接触覆盖作为灵巧操作的探索组件;受限物体取回实验显示,它可减少对人工接触初始化的依赖。
评估仍以仿真为主;循环状态下重复接触的奖励会衰减。跨手型实验分别训练策略,真机手内重定向采用开环教师动作回放,不能据此认定单一策略具备跨本体或闭环通用能力。
操作失败可能使场景陷入任务策略无法继续的状态。作者提出Recova,在重建的数字孪生中探索任务与纠错行为,再用真机经验验证和改进;核心是将任务执行与场景恢复分开训练,而非仅重试原策略。
智能体在孪生中诊断失败,生成恢复程序并采集轨迹。部署时监测进度、调用恢复技能,确认场景可继续后重启任务;自主恢复不成功时请求人工示范。任务成功轨迹、人工任务示范与恢复数据分别进入对应策略的DAgger式更新。真机自主恢复由学习策略执行,新增恢复程序则在孪生中开发测试。
作者报告,LIBERO-Pro六种设置、MolmoSpaces四类任务的平均成功率分别为78.8%、64.9%,所列最强基线分别为71.7%、38.0%,但基线数据来自既有论文。四项真机任务中,每项每配置评测20次,平均成功率从23.8%经DAgger微调升至77.5%,启用恢复后达87.5%。摸麻将任务四轮采集中,人工接管由首轮八次中的七次降至第四轮七次中的零次;这一结果仅对应该任务的小规模采集观察。
这项作者研究展示了把失败恢复作为独立、可学习能力,并将人工干预转为后续训练数据的闭环路径。
仿真比较并非作者统一重跑全部基线;真机结果由操作员按任务标准判定。单任务末轮零接管不能外推为普遍无需人工,所列结果应视为作者实验报告,而非独立复现。
长时程组合操作需要协调多个子任务。论文作者指出,现有世界—动作模型虽联合预测短期视觉未来与动作,却通常缺少显式的子任务级推理,并提出视觉目标条件动作推理框架ViGAR。
ViGAR将操作拆成视觉子目标规划与子目标执行:规划器依据当前观测和全局指令预测下一子任务的目标图像,执行器据此联合生成未来视觉轨迹与动作;两者从同一预训练世界模型初始化。全局目标图像还可作为上下文,在不更新参数的情况下引导不同的任务分解。
作者报告,在RoboTwin Clean2Random上,ViGAR在Clean与Random设置下的成功率分别为82.00%与67.02%,平均成功率较所比较的最强基线高12.86个百分点。该评测中,策略仅使用2500条Clean专家示范训练,各任务在两种条件下分别测试100次。
真机部分涵盖五项组合操作和两项上下文学习任务。后者在域内与分布外目标下的平均任务进度分别为77.5%和47.5%;这是任务进度指标,不是整项任务成功率,不能与仿真成功率直接排名。
作者实验支持将视觉子目标作为任务规划与动作生成之间的显式接口,并用目标图像在推理时引导已学行为的重新组合。
证据为作者论文实验,不代表独立复现。真机组合操作每项测试20次,且并非每项均优于基线:桌面清理任务的进度得分低于π₀.₅;不宜外推为通用操作能力。
多机器人从不同方向推动物体时,分别减小局部力方向偏差,并不能保证合力沿期望方向。作者提出DNPush,在机器人间无通信的条件下,用局部力测量、预分配权重和本地表达的期望运输方向协调非平行推力,在线不需要物体模型、接触位置、质心估计或力臂大小。
其核心是用方向偏差的正弦倒数缩放推力大小,而非消除各自偏差;外环生成法向力指令,触觉内环跟踪。在有序异号力矩接触条件及名义模型假设下,作者证明转动收敛至唯一平衡;结合分组权重平衡,法向力的横向分量相消,物体速度方向收敛至期望方向。
作者在双机器人仿真中隔离检验缩放机制,并展示五机器人协调。软触觉差速机器人真机实验中,双机器人固定接触、固定方向的五次试验,按每次末尾0.5秒统计,速度方向误差为0.61°±0.79°(均值±标准差);另展示三机器人经过预设航点。实验使用OptiTrack提供机器人航向,航点试验不在固定方向收敛证明覆盖范围内。
将局部方向偏差从需要消除的误差转为推力分配信号,使无机器人间通信的协同推动不再局限于同一直边上的平行接触。
收敛分析依赖固定接触、理想力跟踪、无推力上限及零正则项;转动与速度收敛还分别要求切向接触合力矩、合力为零。真机不正式保证接触固定;全局接触规划、重定位与接触切换不在研究范围内。
前沿视觉语言模型通过工具操控机器人时,反复远程调用会增加成本、延迟和外部服务依赖。作者提出Guava,研究如何将这类闭环工具使用能力蒸馏到紧凑模型,而非让小模型直接承担底层感知与控制。
其核心是教师与学生共享的操作工具框架:模型根据图像、夹爪状态和执行反馈逐步决策,工具负责感知与动作执行。作者用GPT-5.4在仿真中生成并验证2,268条交互轨迹,其中含714条扰动分支,再微调Qwen3.5-4B得到Guava-4B;扰动数据提供偏离正常执行路径后的恢复示范。
作者报告,在共享完整框架的15项仿真任务、每项30次试验中,Guava-4B总体成功率为87.1%,基础模型与教师分别为22.2%和90.4%。等量数据消融中,加入扰动轨迹使未见任务成功率由77.1%升至90.8%。在九项真机任务、每项10次试验且不做真机微调的条件下,成功率为90.0%,教师为93.3%。这些结果支持所测操作能力的蒸馏与迁移,不代表通用机器人能力。
作者实验提示,共享工具接口与仿真交互经验可为紧凑操作智能体的本地部署提供路径;能力来自模型与工具系统的组合。
证据为作者论文实验,不作独立复现解读。当前工具集面向桌面操作,不涵盖手内灵巧操作或高频反应;单视角遮挡与串行决策仍限制适用范围。
仿真中依赖特权状态训练的操作策略,部署时需改用相机等不完整观测。常见师生蒸馏让学生同时学习状态推断和专家已有的动作映射。本文作者研究另一条路径:冻结并复用专家,只学习缺失状态的视觉估计器,避免重新学习控制映射。
方法结合直接状态监督与穿过冻结可微专家反向传播的动作一致性损失。训练先建立有物理意义的状态估计,再逐步提高动作损失权重,关注会影响控制输出的估计误差。在相同专家示范语料、相同训练预算下,混合损失估计器在五项目标条件操作任务中均优于所比较的直接像素到动作模仿基线;但各方法的数据筛选与正则化不同。TrayPlate成功率由仅状态监督的28.9%升至64.1%,AllegroCube上则未改善。
真机采用另行进行视觉域随机化训练的PandaCube策略,不重训底层专家;25次评测中完成19次,成功率为76%,每次限时40秒。另有两次触发关节限位安全检查后重启,若计作失败则为70.4%。仿真主比较关闭域随机化,结果应限定于论文所测任务与协议。
作者实验支持将感知学习与既有控制器复用分开:状态估计不仅要接近真值,也可按其对下游动作的影响优化;收益及损失权重仍依赖任务。
比较针对匹配训练预算而非收敛性能;部分模仿基线仅单种子,作者不对其声称显著性。真机证据限于PandaCube,不能外推通用操作能力。
作者提出可修订时序规划(RTP),处理机器人执行反馈与预测视觉未来不一致的问题:原样复用可能保留时序误差,完全重生成则重复视觉生成过程。RTP基于任务适配后的LingBot-VA,将视觉未来保留为持久动作条件,通过学习式修订桥恢复生成时保存的中间状态,在新观测下修订未执行计划,并以视觉和动作监督连接修订与控制。时间感知历史提供观测证据;策略在保留、桥接修订和从新噪声重新规划之间选择,所有模式均依据当前事实重新解码动作。
作者在RoboMME的16项任务和RMBench的九项双臂任务上评测,每项分别使用50和100次重置,报告任务平均成功率为48.6%和84.8%。相对同一时间感知模型的重新规划,按展示成功率分别提高8.2和4.9个百分点;这不是跨协议排名。学习式修正的组件证据较清晰,但保存状态来源及视觉前缀作用仍估计不够精确,部分任务比较区间包含零。结果限于LingBot-VA、有限预测窗口、同步执行和受控延迟,不据此外推通用能力;代码与检查点仅承诺发布。
研究将反馈后的视觉计划修订连接到闭环控制。作者的损失消融提示,视觉预测误差降低不必然带来任务成功率提高。
本条仅依据所给作者论文材料,不构成独立研究复现。统计区间反映给定已训练模型下的重置变化,不覆盖独立训练间差异;代码与检查点的发布承诺不能视为已完成工程开放。
作者论文指出,自然轨迹中的物体状态、机器人配置、遮挡和任务进度共同变化,低预测误差不足以证明读出器忠实响应物理变化。研究冻结VLA特征并拟合状态读出器,利用经物理与视觉验证的目标坐标—机器人情境交叉观测,区分自然准确性、固定情境下的状态响应和固定状态下的情境稳定性。
主验证在Meta-World抽屉与水龙头任务上评估SmolVLA和OpenVLA特征,每任务含12个确认初始化。四种任务—表征组合均出现低自然误差与弱受控响应并存。抽屉SmolVLA的自然MAE为5.554毫米,受控MAE为74.184毫米,平均端点增益G为0.1806。单情境端点增益为1表示两端点间预测变化方向与幅度正确;平均增益为1仍可能掩盖情境间欠响应与过响应的抵消,也不保证中间状态表现。
作者另在LIBERO中开展分开的行为实验:加入响应与情境敏感性诊断降低了相对指定基线的失败预测损失,但事后对照未确立其优于同批受控观测MAE。这不是独立团队复现或策略成功率提升证据;自由物体设置也未重现同一核心模式,真机适用性仍待验证。
研究支持联合评估自然准确性、受控响应和情境稳定性,而不把状态可解码直接等同于忠实响应或任务成功。
证据来自作者论文中的仿真实验。任务、情境与单一物理坐标覆盖有限;受控观测可能偏离自然联合分布,研究尚未分离表征内容、读出特征选择和分布偏移的影响。行为预测结果限于所评估的固定策略、任务及指定基线,未确立诊断读出器是策略内部状态估计器或失败的因果中介。
动作压缩得到的离散表示,未必适合自回归模型逐词元生成。作者提出因果动作词元化器CATok,将动作编码从单纯压缩改为具有生成阶段结构的表示学习,目标是让动作词元的组织方式与自回归VLA对齐。
其核心是条件退火:随流匹配时间推进,逐步屏蔽序列前部的词元,使早期词元提供整体动作引导,后期词元专注细节残差,形成由粗到细的层级。系统以双流编码器和瓶颈向量量化获得离散词元,再由MMDiT流匹配解码器重建连续动作块;接入VLA后,词元化器与解码器冻结,仅更新自回归骨干。
作者报告,移除条件退火后,消融实验平均成功率由0.959降至0.914。在SimplerEnv训练比较中,CATok约用FAST一半的训练步数达到其最佳表现。真机实验采用Franka平台,两个方法共享Qwen3.5-VL骨干及训练协议;CATok在空间、颜色和长时程三组任务上的成功率均比FAST高20个百分点。这些结果来自作者实验,真机验证仍限于单一平台与有限任务。
该工作将动作词元的生成阶段结构与自回归预测目标对齐,为动作离散化提供了不只追求压缩与重建的设计方向。
作者尚未验证多样本体、传感配置、环境与动力学条件下的稳健性,也未研究大规模、多样化跨本体数据上的扩展性;不能据此外推通用机器人能力。
机器人部署时,实际反馈可能偏离模型预测,环境变化也会改变规划代价;传统扰动观测器通常依赖显式受控对象模型。作者提出基于采样的扰动观测器SDOB,将反馈补偿扩展到通过状态滚动预测或代价查询访问的模型。
其核心是区分状态效应与代价扰动双通道:前者拟合预测状态与执行反馈的偏差,后者通过相邻更新间的局部代价匹配估计代价场移动,再修正后续预测与规划评估;不要求模型解析表达式,也无需模型求逆或重新训练。
作者报告,在预先筛选的、无扰动规划已能完成的Reacher任务中,施加隐藏动作偏置后,MPPI+SDOB成功19/20次。PointWorld真机抬箱的20次配对试验中,最终任务RMSE由MPPI的55.26±14.99毫米降至22.61±12.58毫米。
这些结果有明确条件:Reacher不代表未筛选任务表现;相关世界模型仿真在规划时暂停。抬箱仅用初始反馈校准,执行期间不重规划、不更新观测器,因此不能将其解读为世界模型实时闭环控制已获验证。
价值在于把扰动补偿接入滚动预测与代价查询接口,针对局部持续、与任务相关的失配进行修正,而非完整辨识仿真到现实差距。
证据来自作者论文实验,不能当作独立复现。方法要求可重复预测或可比较查询、扰动可观测且缓慢变化;代价场突变或局部多重运动可能破坏输运假设。
世界—动作模型联合学习动作生成与未来状态预测,但视频或视觉潜变量通常只隐式表达交互几何,还可能保留与控制无关的外观信息。作者提出SkeleWAM,以机器人关节、物体中心和交互点组成的稀疏三维骨架表示操作场景。
方法从当前RGB-D观测与机器人本体状态在线构建骨架;训练时联合学习动作生成和未来骨架预测,以几何监督替代视觉重建。推理时移除未来预测分支,直接根据当前骨架与语言指令生成动作;辅助策略MAC从独立采样轨迹中选择与其他候选平均距离最小的一条,而非平均轨迹,也不需要奖励模型。
作者在完整LIBERO-Plus上评测,不对评测变体微调。在基于观测的设置中,模型以约57.1M参数达到85.9%总体成功率,比论文所比较的Cosmos-Policy高3.7个百分点。移除未来骨架监督后,成功率降至80.1%。真机实验覆盖五项任务,每种方法每项测试20次,SkeleWAM的任务成功率非加权均值为89%。但布局扰动下成功率仅66.6%,低于π₀.₅的84.1%,表明稀疏几何尚未充分解决空间布局泛化。
作者消融支持将未来几何预测用作训练监督、而非推理必经步骤,为紧凑世界—动作模型提供了一条可研究的路线。
以上为作者论文评测,不能视为独立复现或通用操作能力证明;使用模拟器坐标的sim-state版本属于特权输入诊断参考,不应与观测输入结果混为一谈。
多机器人轨迹规划面临非凸、多模态和高维搜索难题。论文在D4ORM基础上扩展规划架构,以扩散去噪优化轨迹形变:通过蒙特卡洛梯度近似,引导联合控制轨迹的增量更新,无需训练神经网络或提供解析梯度。
为适应不同运行条件,作者提出三种变体:D4ORM-D按失败机器人分组,迭代修复碰撞或未到达目标的轨迹;D4ORM-C2F以离线粗轨迹引导在线滚动时域规划;D-D4ORM让多个计算节点交换候选轨迹,支持分布式计算。
作者报告,在50次运行的二维全向、无障碍16机器人测试中,基础D4ORM均在3秒期限内找到动力学可行且无碰撞的轨迹,平均耗时约1.25秒。基础评测使用Core i9-13900HX与RTX 4080,每步采样1024条轨迹。论文另展示十架真实多旋翼在障碍物环境中的零样本部署、100个仿真机器人的冲突消解,以及六台地面机器人的机载分布式持续任务运行;后者仍通过Wi-Fi接收外部动捕定位。
将无需学习的扩散去噪作为轨迹优化工具,并扩展为解耦、在线和分布式规划,为不同规模与计算条件下的多机器人协调提供方法选择。
结果属于作者论文评测。作者指出,该系列不面向迷宫式密集障碍规划,并依赖快速碰撞检测;非凸机器人外形可能使检测成为瓶颈。机载演示不等于摆脱外部定位。
长程机器人操作需要记住当前观测已无法恢复的历史,但保存完整历史的成本会随执行时间增长。作者提出TTT-RM:不让测试时训练(TTT)泛化压缩全部历史,而是用残差记忆补充容量有限的显式记忆库,保留当前上下文无法恢复的任务相关信息。
方法先训练历史解码器,根据当前观测和检索记忆重建历史表征,再以重建残差监督TTT慢权重,使在线快权重更新学会保存互补信息;读出的残差记忆与检索记忆共同影响动作生成。推理时移除解码器,快权重每次策略调用更新,并在每轮任务开始时重置。
作者报告,在RoboMME中,TTT-RM相对对应显式记忆配置的平均成功率提高2.2—7.1个百分点;FrameSamp配合Modul的结果由42.8%升至45.4%。真机实验涵盖三项任务,每种方法每项测试20次;其中约三分钟、八阶段的物品收纳任务,平均任务进度由最强基线的50.5%升至77.0%。这里的真机指标是任务进度,不应当作整任务成功率。
这项作者研究支持一种互补记忆设计:快权重重点学习已有上下文解释不了的历史,而非简单叠加两种记忆机制。
证据来自作者论文,非独立复现。真机评测限于三项任务、每种方法每项20次试验,不能外推通用长程操作能力。
长时程机器人操作需要利用过去的场景变化,但加入历史观测不等于有效使用历史。作者提出Temporal Forcing,针对动作监督只能间接约束历史表征的问题,直接监督模型保留的时序状态及其变化。
方法通过历史通路压缩过去观测,以门控交叉注意力注入当前图像特征;利用预训练StreamVGGT提供因果四维几何目标,进行历史状态与状态转移对齐,并补充当前帧几何对齐。四维基础模型和对齐头仅用于训练,推理保留历史通路与门控融合。
作者报告,相比StarVLA-OFT基座,LIBERO平均成功率由96.6%升至98.8%,Long由93.8%升至97.2%;RoboTwin 2.0十二项任务平均由53.5%升至62.8%。真机多阶段隐藏放置任务完整成功率由20.0%升至43.3%。受控消融显示,单加历史通路并未改善基线,收益来自与四维表征监督配合。
结果有明确条件:RoboTwin采用easy(clean)设置,每项任务用50条示范训练、测试100次;真机各模型使用相同100条示范,完整序列各测试30次。上述结果均为作者实验。
这项工作支持将“提供历史输入”与“监督历史保留什么”区分开来,为历史感知VLA提供了训练期表征监督路径,而非仅扩展输入历史。
证据来自作者论文,不是独立复现;结果应限于所述基准与真机任务,不外推通用能力。材料仅承诺公开代码和真机视频,不能视为已完成工程开放。
ZeroBot针对新物体操作提出Real2Sim框架:在没有人类示范、没有策略预训练、没有预先已知物体模型的条件下,根据单视角RGB-D图像与用户指定的目标位姿,在数分钟内学习操作策略。这里的“从零”限定于策略学习,系统仍使用预训练视觉基础模型。
方法先用InstantMesh生成完整物体网格,再与深度图对齐恢复尺度,并在仿真中开展大规模并行强化学习。核心是接触动作空间:依据网格采样接触状态、排除无效状态,再用学得的价值函数选择高价值接触位置;真机通过运动规划到达接触位置后执行策略,减少训练中的自由空间探索。
作者报告,真实任务评估成功率为87%,平均训练时间为119秒。六项端到端真机任务中,每种方法、每项任务重复10次,每次重新生成网格并从零训练;用于比较的Real2Sim方法共用作者的强化学习训练框架。
上述时间是训练时间,不应视为完整部署耗时。实验用一张A6000运行256个并行仿真智能体,另一张用于执行时跟踪;主要设定为单个刚性物体、清晰可见的输入视角及预先扫描的静态背景。
作者实验表明,生成几何不仅能用于搭建仿真,还能直接参与接触状态选择,加速特定任务的策略学习与仿真到真机迁移。
结果属于作者论文实验,不等于通用操作能力验证。系统仍受生成网格精度限制;仿真中物体质量设为常数,关节物体扩展假定关节参数已知。
机器人何时请求专家接管,不仅关系到能否发现失败,也决定示范数据能否覆盖待补足的行为。论文指出,过早接管可能收集冗余动作,过晚接管则可能错过需要学习的部分;TimelyDAgger因此将接管时机视为数据采集决策。
方法以Bridge-PCA监测视觉语言模型传向动作生成模块的内部特征:利用成功示范拟合PCA子空间,重建误差超阈值即请求接管。反馈引导阈值自适应(FTA)根据已完成干预中的专家行为调整后续回合阈值,再将成功接管片段与原始示范混合微调。作者另提出TASR,无需重训策略即可评估监督质量。
在保留专家动作预算、数据混合比例和训练设置匹配的条件下,作者报告:15个任务—骨干组合中,失败检测AUPRC、TASR和训练后成功率各自在13个设置中取得所报告最高值。OpenDrawer抓取分布外实验中,即时接管与第80步接管对应的训练后成功率分别为42%和78%。
这些结果来自作者评测。仿真由任务专用预言机替代人类专家,并假定其能从所评估接管状态完成任务;预算匹配针对保留用于训练的专家动作。
将接管时机作为监督数据采集问题,而不只追求失败检测准确性,为相同专家动作预算下改善策略学习提供了方法与评测思路。
仿真依赖预言机专家假设,TASR依赖成功分布外专家轨迹及人工标注的目标区间。结论限于作者报告的任务与协议,不代表独立复现或通用能力验证。
机器人数据采集成本限制了视觉—语言—动作(VLA)模型继续扩展。作者提出DiVeR,针对现有分类验证器将轨迹成败标签均匀用于各状态的问题:常规状态的候选动作相似,而少数关键状态的动作差异更可能影响后续结果。
DiVeR冻结基础策略,通过采样动作的动作专家表征离散程度估计决策关键性,在轨迹内标准化后生成权重,以加权二元交叉熵训练验证器。它利用轨迹级成败监督,不要求逐步标注或额外环境交互;推理时对多个候选动作评分,执行最高分动作块。
作者在LIBERO-Long、RoboCasa及Franka Research 3上评测。真机采用π₀.₅、每步16个候选,覆盖四项操作任务,每项评估24回合;平均成功率为71.9%,均匀训练验证器为65.6%,单样本基础策略为58.3%,原文报告分别提升6.3和13.6个百分点。低验证开销不等于低总推理成本:16候选时,π₀和π₀.₅的动作块采样延迟约为360和205毫秒,成本主要来自候选生成。
该作者论文提示,VLA测试时扩展不仅取决于增加候选数量,也取决于让验证器重点学习动作差异真正影响结果的状态。
以上为作者实验结果。真机任务范围有限,尚不足以刻画跨更广环境和机器人本体的迁移;效果仍受冻结策略所生成候选的质量与多样性约束。
当指令按过去事件中的角色指代物体或部件,而非名称或外观时,机器人既要识别目标,也可能要寻找已被遮挡的目标。作者提出零样本抓取系统BeyondSCe,将历史视频推理与事件条件主动感知连接起来,使用预训练模型,无需额外任务专用训练。
系统先从事件历史识别目标并尝试在当前图像定位;若无法定位,则将历史三维观测与当前几何融合为目标位置概率分布,引导相机换视角。视角评分对穿过未观测空间的视线降低可见性置信度,并随新观测更新地图和分布。
作者使用单个腕载RGB-D相机开展真机实验:初始可见、遮挡条件分别测试50、100次,抓取成功率为76%和77%,对应条件最强基线为40%和55%。另在四个重遮挡场景、共20次试验中,相比获得目标真实三维包围盒的适配版主动感知基线,成功率由75%提高至95%,平均视角数由3.35降至2.20,统计包含失败试验。去掉事件先验后成功率仍为95%,但平均视角数升至4.00,说明该组实验中历史空间线索的收益主要体现为减少搜索。
这项作者真机研究将事件记忆用于目标识别和空间搜索;消融结果尤其支持历史空间先验对搜索效率的作用,而非证明其必然提升抓取成功率。
系统假设搜索期间目标静止。重遮挡比较仅涉及四个场景、20次试验;基线为作者适配实现,结果应按论文内协议理解,不作为独立复现或通用能力结论。
该研究为“语言推理—执行—监测—重规划”提供了共享的显式规范接口,支持在所测操作任务中将任务完成与约束满足分开评估。
证据来自作者论文,不是独立复现。固定谓词与技能映射限制全新任务泛化;低层控制的短滚动时域使远期截止时间影响有限,执行落后后的追赶能力不足。