HumanX 開源技能遷移框架:讓機器人看人類影片學會投籃和踢球
研究團隊開源技能遷移框架 HumanX,能把人類單目影片中的動作轉化為人形機器人的互動策略。該方案已在 Unitree G1 模擬中復現接球投籃、假動作投籃和踢球等動作。這意味著開發者無需昂貴動捕裝置,用普通影片即可訓練機器人互動。程式碼已在 GitHub 開放。

HumanX 是一個把人類單目影片轉換為人形機器人互動技能的開源全棧框架。如果你想讓人形機器人學會打球或搬運,現在不需要昂貴的動作捕捉裝置,用手機錄製的普通影片就能直接提煉技能。
它能做什麼
程式碼庫目前自帶了多組在模擬環境中驗證過的互動技能。
機器人在模擬中不僅能完成接球投籃和投籃虛晃假動作,還可以踢足球,以及完成料箱物體的拾取與放置。
除了自帶示例,它更核心的價值是支援使用者輸入自己的日常影片。只要有一段人類與物體互動的單目影片,框架就能把它轉換成物理上合理且機器人可執行的互動策略。
工作原理與流水線
整個 HumanX 框架由兩大部分構成,分別是負責動作編輯的 XGen 和負責模擬模仿學習的 XMimic,兩者通過標準動作檔案對接。
在完整的流程中,首先由 GVHMR 從單目影片中提取出帶有真實空間定位的人體運動。
接著利用 UMR 模組,把提取出的人體骨骼動作重定向到 Unitree G1 人形機器人身上。
然後進入 XGen 階段。該模組負責編輯併合成符合物理規律的人形機器人與物體互動動作,並匯出為 .npz 格式的資料檔案。
最後交給 XMimic。它將 XGen 匯出的檔案轉換為訓練專用的 .pkl 格式,並在 humanoidverse 模擬環境中完成端到端的模仿學習訓練與評估。
怎麼跑起來
該專案程式碼已經在 GitHub 開源,倉庫內提供了完整的 xgen 與 xmimic 模組,以及配套的示例動作資料。
專案遵循 Apache-2.0 並附帶 Commons-Clause 許可證。
開發者可以直接克隆倉庫,執行 XGen 編輯器檢查動作與合成互動,或者按照 XMimic 的指引直接在模擬環境裡復現訓練、評估和動作回放。
為什麼重要
讓雙足機器人掌握高動態的球類運動和複雜抓取,以往極度依賴昂貴的動捕系統或繁瑣的手動調參。HumanX 證明了單目影片可以直接轉化為機器人的物理策略,把資料採集的門檻砍掉了一大截。
不過也要看到,目前該專案主要在模擬環境中驗證,從虛擬環境跨越到真實硬體依然面臨物理擾動的挑戰。具身智慧與強化學習開發者現在很值得下載上手測試,但在商用落地之前,還需要解決實機部署和許可證適用範圍的問題。
來源 (1)
- github.com(在新分頁開啟)原文github.com