推理与部署
后训练后,用统一的 policy 入口部署:
export QWEN25_PATH=path_to_Qwen2.5-VL-3B-Instruct
# RoboTwin 部署
python -m deploy.lingbot_vla_policy \
--model_path path_to_posttraining_ckpt \
--use_compile \
--use_length 50 \
--port port
# 真机部署
python -m deploy.lingbot_vla_policy \
--model_path path_to_posttraining_ckpt \
--use_compile \
--use_length 25
# 可加 --num_denoising_step 5 提速
关键开关
| 参数 | 作用 |
|---|---|
--use_compile | 启用 torch.compile 加速推理 |
--use_length | 动作 horizon 长度(真机 25 / 仿真 50) |
--num_denoising_step | flow-matching 去噪步数,调小提速 |
部署 checkpoint 要求
模型目录须含:.safetensors 权重、config.json、lingbotvla_cli.yaml。
完整推理参数见训练配置。