后训练
LingBot-VLA 的核心使用路径:在官方预训练权重上,用你的数据后训练出可部署策略。VLA 的「微调」即「后训练(post-training)」。
通用流程
- 下载预训练权重(
lingbot-vla-4b或-depth)。 - 准备数据(LeRobot v3.0 + Robot Config + 归一化),见 数据。
- 选配置(真机
real_load20000h.yaml/ 仿真robotwin_load20000h.yaml)并启动训练。
RoboTwin 2.0 后训练示例(5 任务)
# 无深度
bash train.sh tasks/vla/train_lingbotvla.py ./configs/vla/robotwin_load20000h.yaml \
--data.train_path /path/to/mixed_robotwin_5tasks \
--data.data_name robotwin \
--data.norm_stats_file assets/norm_stats/robotwin_50.json \
--train.output_dir output/
# 含深度
bash train.sh tasks/vla/train_lingbotvla.py ./configs/vla/robotwin_load20000h_depth.yaml \
--data.train_path /path/to/mixed_robotwin_5tasks \
--data.data_name robotwin \
--data.norm_stats_file assets/norm_stats/robotwin_50.json \
--train.output_dir output/
真机后训练
官方提供面向真实场景的推荐配置:
configs/vla/real_load20000h.yaml(无深度)configs/vla/real_load20000h_depth.yaml(含深度)
真机 / 仿真关键超参差异
| 参数 | 真机推荐 | RoboTwin 推荐 |
|---|---|---|
lr | 5e-5 | 1e-4 |
norm_type | meanstd | bounds_99 |
loss_type | fm(MSE flow-matching) | L1_fm |
max_steps | 40000 | 20000 |
显存有限时
通过 gradient_accumulation_steps > 1 启用梯度累积,等效放大全局 batch:
micro_batch_size: 4
gradient_accumulation_steps: 16
# global_batch_size = micro_batch_size × num_gpus × grad_accum = 4 × 4 × 16 = 256
4 × A6000 可微调 LingBot-VLA-4B(约 47–49 GB / 卡)。
产物
后训练 checkpoint 位于 train.output_dir/checkpoints/*/hf_ckpt,部署需包含:.safetensors 权重、config.json、lingbotvla_cli.yaml。
官方后训练权重
| 模型 | HuggingFace |
|---|---|
| LingBot-VLA-4B-Posttrain-Robotwin | link |
| LingBot-VLA-4B-Depth-Posttrain-Robotwin | link |
深度注入
含深度后训练通过对齐模块把 LingBot-Depth / MoGe-2 的 3D 几何蒸馏进动作专家,详见 预训练 · 含深度 与 LingBot-Depth。