跳至正文
主题

训练方法

预训练、SFT、LoRA、蒸馏、IL、离线/在线 RL

Jason · 更新 2026-10-10 · 持续维护

训练方法应按不同维度理解,避免把模型架构、训练信号和参数技巧并列成互斥路线。

维度 主要选择 关键问题
阶段 预训练、任务适配、部署后改进 能力基础从哪里来,新增经验改变什么?
学习信号 模仿/监督、自监督、强化学习 示范、预测目标和任务奖励如何结合?
参数更新 全量微调、LoRA 等参数高效适配 资源、稳定性和能力遗忘怎样取舍?
能力压缩 蒸馏及后续推理优化 资源降低后,闭环任务能力保留多少?

当前重点

强化学习 已有从仿真运动控制到真机操作、VLA 经验学习的公开样本,核查截至 2026-10-10。重点比较“示范预训练 + 后续经验”如何组合,而不是预设 RL 替代所有模仿学习。