跳到主要内容

评测

评测方式一览​

方式说明
开环评测(Open-Loop)在验证集上比对预测动作,无需仿真环境
RoboTwin 2.0双臂操作仿真基准(Clean / Randomized)
LIBERO终身学习基准(Spatial / Object / Goal / Long)
GM-1003 真机平台基准(SR / PS)

仿真环境准备​

仿真用途准备
RoboTwin 2.0双臂操作基准(Clean / Randomized)本页 RoboTwin 2.0 部署评测
LIBERO终身学习基准本页 LIBERO

RoboTwin 5 任务示例:open_microwave、click_bell、stack_blocks_three、place_shoe、put_object_cabinet。

开环评测​

export QWEN25_PATH=Qwen/Qwen2.5-VL-3B-Instruct
python scripts/open_loop_eval.py \
--model_path path_to_posttraining_ckpt \
--data_path path_to_validation_data \
--use_length 50
# 省略 --data_path 时默认用 YAML 中 data.train_path

RoboTwin 2.0 部署评测​

export QWEN25_PATH=path_to_Qwen2.5-VL-3B-Instruct
python -m deploy.lingbot_vla_policy \
--model_path path_to_posttraining_ckpt \
--use_compile --use_length 50 --port port

LIBERO​

git clone https://github.com/Lifelong-Robot-Learning/LIBERO.git libero
cd libero && pip install -e .
cd experiment/libero/libero && pip install -r req.txt

结果保存到 /project_root/Libero:release_ensemble/(日志)、rollouts/(视频)。

运行前须把 LIBERO 仓库加入 PYTHONPATH(export PYTHONPATH=/path/to/libero:$PYTHONPATH),否则 import libero 失败。

指标说明​

  • SR(Success Rate):成功率。
  • PS(Progress Score):进度分,衡量任务完成度(部分完成也计分)。

主要结果​

基准结果(含深度)
GM-100 平均SR 17.30 / PS 35.41(优于 π₀.₅ 的 13.02 / 27.65)
RoboTwin 2.0Clean 88.56 / Rand. 86.68

GM-100 真机详细结果​

3 个真机平台的 SR / PS(每列最优加粗):

平台WALL-OSSGR00T N1.6π₀.₅Ours w/o depthOurs w/ depth
Agibot G12.99 / 8.755.23 / 12.637.77 / 21.9812.82 / 30.0411.98 / 30.47
AgileX2.26 / 8.163.26 / 10.5217.20 / 34.8215.50 / 36.3118.93 / 40.36
Galaxea R1Pro6.89 / 14.1314.29 / 24.8314.10 / 26.1418.89 / 34.7120.98 / 35.40
平均4.05 / 10.357.59 / 15.9913.02 / 27.6515.74 / 33.6917.30 / 35.41

RoboTwin 2.0 平均 SR:π₀.₅ Clean 82.74 / Rand 76.76;Ours w/o depth 86.50 / 85.34;Ours w/ depth 88.56 / 86.68。

训练效率:相比现有 VLA 代码库 1.5–2.8× 加速(8/16/32/128/256 卡对比理论线性扩展上限)。

VA 的评测结果见 LingBot-VA;Map 3D 重建评测见 LingBot-Map。