跳到主要内容
所有文章
技术

Pickplace Lab 项目复盘:抓取成功率之外的时延与失败分析

从 MuJoCo 抓取搬运闭环出发,记录 22,100 个评测回合。动作平滑在自建任务的 50 ms 延迟下有效,换到 Panda Lift 却没有支持同样的收益。

MuJoCo 实际渲染的笛卡尔夹爪抓取方块场景,桌面上标出放置目标
文章目录

Pickplace Lab 从一个简单任务开始:让夹爪抓起方块,搬到指定位置,放下,再退开。先把仿真、示范采集、训练和闭环评测接起来,随后再问:干净条件下成功的策略,换一种执行条件,还能不能完成任务?

最值得讨论的结果出现在指令延迟实验里。固定模型权重,只给平移动作加一个简单的指数平滑,自建任务在 50 ms 延迟下的成功率从 56.0% 提高到 86.6%。但换到 Panda Lift,采用同一平滑系数,成功率从 67.2% 变成了 60.8%。

前一个结果可以解释改进,后一个结果限制了结论。两者都保留在项目里。

本文对应 项目 v0.1.0 阶段性实验复盘。开发、实验执行和材料整理使用了 AI 辅助;数值来自保存的本地运行记录。项目已经公开,但尚无独立第三方复现或外部采用的证据。

查看项目源码 · 下载完整发布包与校验和

先把一次抓取定义清楚#

教学环境用 MuJoCo 模拟接触物理。机器人是三轴笛卡尔夹爪,动作包含 XYZ 方向的位置增量和夹爪开合。输入直接使用环境状态,没有相机图像和语言指令。

抓取依靠接触与摩擦,执行过程中没有把方块焊接到夹爪上,也没有直接移动物体位置来制造成功。

封面来自这个任务的实际仿真渲染。后文的 Panda 是另一个七关节机械臂仿真任务,两者都不是真机实验。

任务也不以“方块被抬起来”结束。判定成功需要完成抬升、搬运、稳定放置、松爪和退开,并连续保持 8 个控制步。只把方块推到目标附近,或者夹着方块停在目标上方,都不算成功。

训练部分从行为克隆开始:用脚本专家采集示范,让策略学习状态到动作的映射。初版保留了 32 条和 256 条示范的对照,也做了 DAgger 纠正学习。DAgger 额外用了专家标注,所以不能把它写成同等标注预算下的公平胜出。

这一步解决的是工程闭环。数据能不能读、权重能不能保存和加载、动作是否真的进入仿真、失败能不能复查,都需要有具体产物。

干净条件下 100%,为什么还要继续测#

后续研究把坐标表示和观测噪声增强拆开,做了 5 个模型、5 个训练与数据子集种子、6 种部署条件,每组 100 个场景,共 15,000 个闭环评测回合。

测试条件包括位置分布变化、传感噪声、50 ms 指令延迟、动力学变化,以及组合扰动。协议、主比较和测试场景在这一阶段训练与评测前固定。

原本想验证的“相对坐标 + 噪声增强”没有改善预先指定的平均扰动指标。它比原始 BC32 低 7.72 个百分点,探索性配对 bootstrap 95% 区间为 -12.60, -2.68 个百分点。

另一条观察更直接:BC256 在干净条件下,五次训练的测试成功率都是 100%;加入 50 ms 指令延迟后,平均成功率降到 49.6%,跨训练运行标准差为 17.8 个百分点。

这里的延迟是在仿真控制链里排队执行动作。环境控制频率为 20 Hz,一个控制周期就是 50 ms。它不是测量 Python 推理耗时,也不是一次真实网络延迟测试。

“更多示范导致时延表现变差”并不是这些数字已经证明的因果关系。它们能支持的观察是:这组干净条件下表现很好的模型,对这里定义的指令延迟很敏感。

五个种子还同时改变了训练子集和优化随机性,不能把不确定性只归到其中一个来源。完整结果保存在研究 v1 报告中。

失败回放提供了什么线索#

一个配对样例使用相同权重和初始场景:无延迟时,61 个控制步完成任务;加入 50 ms 延迟后,220 步超时。

查看轨迹,延迟版本最后 40 步请求的 Z 方向动作每步变号,夹爪高度持续上下振荡。方块已经接近目标 XY,但仍被夹着,没有完成放下、松爪和退开。

这条回放说明了选定样例怎样失败,却不足以证明所有失败都来自同一个机制。对应的诊断记录与结论边界也保留了这一限制。

接下来的实验因此收窄成一个具体问题:保持模型不变,改变动作执行方式,能否缓解这一类延迟条件下的失败?

固定权重,只改动作执行#

后续实验另行固定协议,使用新场景种子,共 4,500 个回合。五个 BC256 权重保持不变,比较原始执行、XYZ 增益减半和 EMA 指数平滑。平滑系数固定为 0.5,没有根据测试结果再搜索系数。

EMA 只作用于平移动作:

python
filtered_xyz = 0.5 * requested_xyz + 0.5 * previous_filtered_xyz

夹爪开合指令不变,每个回合开始时把滤波状态清零。不同执行方式使用相同场景种子,成功条件和最大回合长度也不变。

执行方式干净条件50 ms 延迟100 ms 延迟
原始执行100.0%56.0%52.4%
XYZ 增益减半36.6%84.0%88.6%
EMA,系数 0.599.6%86.6%40.6%

50 ms 的预先指定主比较提升 30.6 个百分点,探索性配对 bootstrap 95% 区间为 +17.0, +42.6 个百分点。

但把表格读完整,就不能把它概括成“加平滑就更稳”。EMA 在 100 ms 下反而退化;增益减半虽然改善了两个延迟条件,却明显伤害干净条件的成功率。

同一权重与同一场景下,原始执行和 EMA 平滑的配对回放

自动选出的一个 50 ms 改善样例:训练种子 17,场景种子 80002。图用于解释单条轨迹,整体结论以全部回合统计为准。

前面研究里的 49.6% 和这里的 56.0% 来自不同阶段的场景集合。后续干预的正确对照是 56.0% 对 86.6%,不能把 49.6% 拿来拼出更大的提升。

另外,EMA 本身是已有的标准滤波方法。这部分工作是固定权重的工程干预实验,不是新算法,也不是安全控制器。滤波会改变动作和反馈分布,不能据此锁定唯一的失败原因。逐条件结果、协议和退化样例见后续实验报告。

换成 Panda 之后,结论没有直接迁移#

自建夹爪的结果需要在另一个任务上检验。这里选择 robosuite 的 Panda Lift:七关节 Panda 机械臂抓起方块,使用该任务自己的 128 条训练示范、16 条验证示范,另行训练五个状态策略。

这一阶段没有复用自建任务的数据或权重。它完成了 1,500 个学习策略回合和 100 个基线回合,使用官方抬升成功指标,并另外记录连续保持 8 步的严格指标。

Panda 七关节机械臂执行 Lift 的实际仿真渲染

执行条件原始 BC 官方成功率EMA 官方成功率
干净条件100.0%77.2%
50 ms 延迟67.2%60.8%
100 ms 延迟70.8%77.6%

50 ms 主比较的差值为 -6.4 个百分点,探索性配对区间为 -23.2, +10.4 个百分点。区间跨过零,这次复验没有支持迁移收益,也不足以据此断言总体上一定有害。

不能因为 100 ms 那一行更好,就事后换一个主指标宣布假设成功。干净条件下的损失同样需要解释。

Panda 这里固定训练数据,只改变优化与打乱种子;它和前面同时改变示范子集的研究,所刻画的不确定性并不相同。任务 horizon 为 200 个控制步,使用固定旋转动作和提前终止规则,不等同于标准榜单协议。这是本地标准任务复验,不是外部研究者做出的独立验证。细节见 Panda 报告。

仓库留下了哪些证据#

整个项目有 22,100 个正式评测回合:初版对照 1,000 个、研究 v1 15,000 个、后续干预 4,500 个、Panda 1,600 个。这个数字是不同协议的工作量总和,不能当成同分布独立样本池。

除了 33 个模型权重,仓库还包含示范数据、逐回合结果、冻结协议和源代码快照。研究 v1 的 271 条选定重放、Panda 的 55 条选定重放,以及后续干预的改善和退化配对,都保留了复查入口。选定轨迹复跑过,不等于全部 22,100 回合都逐条重新执行过。

发布前,两套隔离环境的测试共 47 项通过:原项目与滤波扩展 42 项,Panda 5 项。发布包也解压到新目录检查过来源解析、数据与权重哈希。但这些检查复用了本机已有依赖,不是全新安装测试。GitHub Actions 只验证文件完整性,不重跑仿真。

项目暂时没有图像策略、VLA、真机结果、安全认证、榜单成绩或已被采纳的上游贡献。公开仓库提供了检查入口,外部可信度仍需要真实的独立复现和反馈。

怎样自己看一遍#

只看研究页面,不需要先装 PyTorch 或 MuJoCo:

bash
git clone --branch v0.1.0 --depth 1 \
  https://github.com/liangqianxing/embodied-pickplace-lab.git
cd embodied-pickplace-lab
python3 scripts/verify_manifest.py
python3 -m http.server 8766 --bind 127.0.0.1 \
  --directory artifacts/study/v1

打开 http://127.0.0.1:8766,可以查看完整结果、延迟轨迹和配对动画。

要运行新的模型推理,再创建隔离环境。原始验证环境是 Python 3.11、macOS Apple Silicon;其他系统需要单独确认依赖和数值复现情况。

bash
python3.11 -m venv .venv
.venv/bin/python -m pip install -r requirements-lock.txt
.venv/bin/python -m pip install -e . --no-deps
.venv/bin/pickplace serve --port 8765

这个页面可以选策略、位置分布和种子,重新运行仿真。新试跑不会写进冻结研究的结果表。Panda 使用另一套依赖,安装方式见独立环境说明,不要和主环境混装。

如果想继续这个项目,我更愿意先回答两件事:不同任务对平滑的响应为什么不同;另一台机器能否按说明得到一致的记录检查和选定回放。它们比再加一段成功视频更能检验现有结论。

欢迎通过复现反馈入口记录成功或失败。附上版本、环境和命令即可;提交日志前,记得删掉个人路径与凭据。

评论

评论由 GitHub Discussions 驱动,使用 GitHub 账号登录即可留言。