PhyMotion 開源:把 3D 人體放進物理模擬器,專治 AI 影片動作變形
研究團隊釋出並開源 PhyMotion,專門解決 AI 影片裡的肢體畸形與動作扭曲。它從生成影片中提取 3D 人體並放入 MuJoCo 物理模擬器打分,檢驗關節移動和接地是否合乎規律,以此獎勵模型,顯著改善了瑜伽、功夫等動作的真實度。

如果你經常用 AI 生成影片,大機率見過這種驚悚場面:螢幕裡的人在練瑜伽或者打太極,動作做著做著,突然多出一條胳膊,或者腳掌懸空滑行,整個人像橡皮泥一樣被扯變形。
目前的影片大模型在畫風景、靜物時已經很逼真,但只要碰上花樣滑冰、武術這類高難度的複雜動作,解剖學邏輯就會迅速崩潰。說白了,模型根本不知道現實世界的力學和骨骼規律,只能靠畫素猜測下一幀長什麼樣。
研究團隊釋出了一篇論文,並開源了名為 PhyMotion 的新工具,目標就是給影片模型裝一個懂物理的質檢員。
把 3D 假人扔進物理模擬器
傳統的影片強化學習後訓練主要靠 2D 視覺訊號來打分。問題是,2D 畫面很容易被騙,一個人物明明雙腳懸空、關節反折,但在二維構圖上看著挺順眼,打分系統可能照樣給出高分。
PhyMotion 的思路非常聰明。它不直接看 2D 畫素,而是先從生成的影片裡反推人體的 3D 結構(SMPL 模型),然後把這個人體骨架直接扔進知名的 MuJoCo 物理模擬器裡。
進了物理引擎,AI 人體就必須接受現實規則的拷問。系統從三個維度給它打分:運動學是否合理、身體與地面的接觸與平衡是否一致,以及動力學上是否行得通。
比如關節旋轉的角度會不會把人扭骨折?雙腳踩地的時候有沒有產生合理的支撐力?動作推進時有沒有莫名其妙的懸浮?通過這套評分系統,模型能明確知道究竟是哪一步動作違反了物理規律,並據此獲得獎勵訊號。
盲測漲了 68 分 Elo
根據研究團隊公佈的資料,這種基於物理引擎的獎勵訊號,比傳統的打分方案更能契合人類的真實感知。
將 PhyMotion 用於自迴歸和雙向影片生成模型的強化學習後訓練後,生成的動作真實度出現了明顯提升。在人類盲測評估中,它相比基線模型取得了 68 分的 Elo 提升。
對於花樣滑冰、瑜伽、功夫這類極易翻車的動作,應用了新機制的生成器明顯減少了肢體缺失和憑空多肢的情況,手腳與地面的接觸也踏實了許多。
當然它現在還不是百分之百完美,極端複雜的動作裡偶爾依然會有細微瑕疵。不過研究人員已經將相關程式碼開源,並提供了本地下載和配置說明。
為什麼重要
我們認為,PhyMotion 最有價值的地方在於指明瞭一條後訓練的新路徑:別讓 AI 靠猜畫素去學世界模型,直接把成熟的物理引擎拉進來當老師。
過去大家寄希望於靠海量影片資料暴力出奇跡,讓模型自己悟出物理規律。但實踐證明,資料再多,模型在處理極限運動和複雜接觸時依然會露出破綻。PhyMotion 借用成熟的機器人模擬工具 MuJoCo 來約束生成結果,既沒有增加過於沉重的訓練開銷,又精準切中了動作影片最致命的痛點。
對普通創作者和影視從業者來說,這項技術如果被 Runway、Sora 或者各大開源影片工具整合,意味著未來生成人物打鬥、舞蹈、運動鏡頭時的廢片率會大幅下降。那些詭異的關節扭曲和滑步漂移,終於有了系統性的解法。
對於行業來說,單純卷畫面解析度的階段已經過去了。接下來影片模型的競爭線,顯然會轉向 3D 空間一致性和物理動力學真實度,而模擬引擎很可能成為下一代影片生成基座的標配部件。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org