跳到主要内容

推理与部署

后训练后,用统一的 policy 入口部署:

export QWEN25_PATH=path_to_Qwen2.5-VL-3B-Instruct

# RoboTwin 部署
python -m deploy.lingbot_vla_policy \
--model_path path_to_posttraining_ckpt \
--use_compile \
--use_length 50 \
--port port

# 真机部署
python -m deploy.lingbot_vla_policy \
--model_path path_to_posttraining_ckpt \
--use_compile \
--use_length 25
# 可加 --num_denoising_step 5 提速

关键开关​

参数作用
--use_compile启用 torch.compile 加速推理
--use_length动作 horizon 长度(真机 25 / 仿真 50)
--num_denoising_stepflow-matching 去噪步数,调小提速

部署 checkpoint 要求​

模型目录须含:.safetensors 权重、config.json、lingbotvla_cli.yaml。

完整推理参数见训练配置。