HumanX 开源技能迁移框架:让机器人看人类视频学会投篮和踢球
研究团队开源技能迁移框架 HumanX,能把人类单目视频中的动作转化为人形机器人的交互策略。该方案已在 Unitree G1 仿真中复现接球投篮、假动作投篮和踢球等动作。这意味着开发者无需昂贵动捕设备,用普通视频即可训练机器人交互。代码已在 GitHub 开放。

HumanX 是一个把人类单目视频转换为人形机器人交互技能的开源全栈框架。如果你想让人形机器人学会打球或搬运,现在不需要昂贵的动作捕捉设备,用手机录制的普通视频就能直接提炼技能。
它能做什么
代码库目前自带了多组在仿真环境中验证过的交互技能。
机器人在仿真中不仅能完成接球投篮和投篮虚晃假动作,还可以踢足球,以及完成料箱物体的拾取与放置。
除了自带示例,它更核心的价值是支持用户输入自己的日常视频。只要有一段人类与物体互动的单目视频,框架就能把它转换成物理上合理且机器人可执行的交互策略。
工作原理与流水线
整个 HumanX 框架由两大部分构成,分别是负责动作编辑的 XGen 和负责仿真模仿学习的 XMimic,两者通过标准动作文件对接。
在完整的流程中,首先由 GVHMR 从单目视频中提取出带有真实空间定位的人体运动。
接着利用 UMR 模块,把提取出的人体骨骼动作重定向到 Unitree G1 人形机器人身上。
然后进入 XGen 阶段。该模块负责编辑并合成符合物理规律的人形机器人与物体交互动作,并导出为 .npz 格式的数据文件。
最后交给 XMimic。它将 XGen 导出的文件转换为训练专用的 .pkl 格式,并在 humanoidverse 仿真环境中完成端到端的模仿学习训练与评估。
怎么跑起来
该项目代码已经在 GitHub 开源,仓库内提供了完整的 xgen 与 xmimic 模块,以及配套的示例动作数据。
项目遵循 Apache-2.0 并附带 Commons-Clause 许可证。
开发者可以直接克隆仓库,运行 XGen 编辑器检查动作与合成交互,或者按照 XMimic 的指引直接在仿真环境里复现训练、评估和动作回放。
为什么重要
让双足机器人掌握高动态的球类运动和复杂抓取,以往极度依赖昂贵的动捕系统或繁琐的手动调参。HumanX 证明了单目视频可以直接转化为机器人的物理策略,把数据采集的门槛砍掉了一大截。
不过也要看到,目前该项目主要在仿真环境中验证,从虚拟环境跨越到真实硬件依然面临物理扰动的挑战。具身智能与强化学习开发者现在很值得下载上手测试,但在商用落地之前,还需要解决实机部署和许可证适用范围的问题。
来源 (1)
- github.com(在新标签页打开)原文github.com