跳到正文
IFAI

開源專案

Mocap Anything v2 開源:普通單目影片直接生成可動畫 3D 骨骼

首次發布 傳播指數 48

動作捕捉模型 Mocap Anything v2 正式開源。它支援從普通單目影片中直接預測任意骨骼結構的旋轉與動作,人類、動物或虛構生物都能套用。模型採用完全端到端訓練,解決了傳統演算法導致的關節翻轉與抖動,大幅降低了 3D 動畫製作門檻。

Mocap Anything v2 開源:普通單目影片直接生成可動畫 3D 骨骼
圖:arxiv.org

給 3D 角色做動作捕捉,過去要麼得穿一套昂貴的動捕服,要麼得在多機位攝影棚裡折騰大半天。要是想給四足動物、怪獸或者長著翅膀的異形生物做動作,基本只能全靠動畫師一幀一幀手捏。

動作捕捉模型 Mocap Anything v2 正式開源。它最大的亮點在於,只要隨手拍一段普通的單目影片,就能把裡面正在活動的任何物體,變成可以直接套進 3D 角色裡的乾淨骨骼動畫。

不管是真人、貓狗,還是長著奇怪肢體的虛構角色,它都能直接把動作套上去,而且程式碼和訓練指令碼都已經發布在 GitHub 上。

告別兩階段,把 IK 變成可學習的端到端

單目影片動捕以前並不是沒人做,但老系統的流程通常被拆成兩步。

第一步先看影片,猜測肘部、膝蓋這些關節的三維座標;第二步再靠傳統不可微的解析反向運動學(IK)演算法,把空間位置反推成骨骼的旋轉角度。

問題在於,光知道關節位置,根本無法完全確定旋轉。比如手臂伸直時骨骼繞著自身軸線的旋轉角度,解析演算法根本猜不準,加上第二步無法反向傳播訓練,模型沒辦法糾錯,最終動畫裡就會經常出現關節反向扭曲、瘋狂抖動這類刺眼的偽影。

Mocap Anything v2 是第一個把位置預測與旋轉生成完全打通的端到端框架。它發現旋轉對映之所以有歧義,是因為缺乏座標系基準。於是研究團隊為目標資產引入了一對參考姿態與旋轉,順帶錨定了初始靜止姿勢(rest pose),把旋轉預測變成了一個邊界清晰的條件問題。

與此同時,模型拋棄了繁瑣的中間三維網格,直接從影片預測關節,並讓兩個階段共享骨骼感知的全域性-區域性圖引導多頭注意力模組(GL-GMHA)。

這套機制帶來的提升非常直觀。在 Truebones Zoo 和 Objaverse 測試集上,它的旋轉誤差從舊方案的約 17 度大幅壓到了約 10 度,在完全沒見過的全新骨骼上甚至達到了 6.54 度;由於不需要生成中間網格,推理速度比同類網格管線快了約 20 倍。

為什麼重要

對獨立創作者和小型工作室來說,非人生物的動捕成本被徹底打穿了。

以往做一匹馬奔跑或者怪物打鬥,要麼花大價錢租專業動捕棚,要麼在關鍵幀上耗費幾週時間。現在只要在網上找一段清晰的野生動物實拍甚至現成素材,就能直接扒出乾淨可用的旋轉骨骼,匯入 Blender 或 Maya 就能套綁。

對行業而言,以往很多 AI 影片轉動作工具都停留在「看著還行」,一旦導進遊戲引擎就會因為關節翻轉而直接穿模。Mocap Anything v2 通過端到端訓練直接最佳化最終的骨骼旋轉,算是在可用性和生產力之間邁出了結實的一步。

我們認為它的聰明之處在於務實:它沒有盲目追求複雜的全網格重建,而是抓住遊戲和動畫流水線最底層依賴的「骨骼旋轉」做深度最佳化,既省了算力又提了精度。雖然目前想要完美對映,依然需要使用者準備目標資產的靜止姿態與參考資料,對純小白仍有一定門檻,但它已經開源了完整程式碼與訓練指令碼,絕對值得動畫和遊戲開發者第一時間拉下來體驗。

來源 (1)

  1. [1]

每日 AI 內容精選