推理优化通过量化、编译、缓存、并行/异步和动作分块减少计算或等待。应同时验证任务能力、显存/功耗和反馈陈旧，不能只看输出动作数。
| 方法 | 可能收益 | 需要保留的条件 |
|---|---|---|
| 量化、编译、减少去噪步 | 缩短单次推理 | 精度、输入分辨率、步数、硬件与任务回归 |
| 动作 chunk | 摊薄推理开销、连续执行 | 执行前缀、重规划周期、过时动作处理 |
| 异步与缓存 | 重叠计算、通信和控制 | 队列延迟、时间戳及取消/覆盖行为 |
当前判断 · 2026-10-10 核查
GR00T N1.7-3B 模型卡 在 H100、1 camera、4 denoising steps 条件下报 Eager 85.8 ms、TensorRT full pipeline 27.9 ms。这是厂商推理表，既不是所有配置性能，也不是整机感知到执行延迟；GA/EA 配套还存在冲突。依据与边界
Cosmos 3 Edge 报 Thor T5000 约 1.53 秒生成覆盖 2.13 秒运动的 chunk，连续运动不等于每次观测都重规划。原文预处理/执行配置未逐项回代码验证。依据与边界
SONIC 的 80/200 ms 是控制参考前视，不能作为推理优化前后的实测延迟。依据与边界 比较边界见 系统评测。
证据补充 · 2026-10-10
Q-WAM v1 用小型 16-bit 分支保护动作敏感子空间，其余 W4A4；目标量化块内存缩减约 3.1–3.4 倍，并非整机显存同比下降。五任务各 25 次真机测试仍低于 bf16（Fast-WAM 56.0% 对 64.8%；ImageWAM 76.0% 对 83.2%）。另见 GROOVE v1：固定策略后的执行平滑属于控制接口优化，须与模型推理加速分开记录。