PhysForge 亮相:生成帶關節與物理特性的 3D 資產,模擬器直接能用
研究團隊釋出 3D 生成框架 PhysForge,讓生成的 3D 物體不僅好看,還自帶關節、材質與運動邏輯。系統先由視覺語言模型規劃物理藍圖,再由擴散模型生成帶運動學引數的資產。這意味著機器人模擬和遊戲開發者無需手動繫結骨骼,就能直接拿去互動與訓練。

現在的 3D 生成模型已經能又快又好地捏出一個茶壺、一把椅子或一輛跑車,但把它們拖進遊戲引擎或者機器人模擬器裡,問題就來了:它們就像一塊實心塑膠,沒有可活動的關節,不知道哪個部件能拉開,更別提受力時的物理反饋。
做具身智慧或者虛擬世界的人,大部分時間其實都在給這些靜態模型手動拆零件、綁骨骼、標質量。現在,這個又慢又磨人的流程可能要變了。
研究團隊釋出了一套名為 PhysForge 的 3D 生成框架。它不再只關心模型長得漂不漂亮,而是直接生成物理上有依據、能真正動起來的 3D 資產。
先讓 AI 當架構師,再讓擴散模型幹活
傳統的 3D 模型生成是一步到位畫幾何,但物理屬性非常講究因果和層級結構。PhysForge 索性把工作拆成了兩個階段。
第一階段,由一個視覺語言模型充當「物理架構師」。看到輸入的物體後,它先在腦子裡拆解出層級物理藍圖,定好這個物體由幾個部件組成、每個部件的包圍盒位置、關節型別、摩擦力與材料,以及各自的質量分佈。
到了第二階段,專門設計的物理擴散模型才進場施工。它接收這張藍圖,通過一種叫做 KineVoxel Injection 的機制,把運動學約束直接注入到幾何形體生成的過程中。
為了訓練這一套系統,團隊還構建了一個名為 PhysDB 的大規模資料集,裡面包含 15 萬個資產,每個資產都帶有四層深度的物理標註。
最後出來的 3D 資產不僅帶有高精度的外觀和紋理,還完整附帶了運動學引數。丟進模擬器後,機械臂能清楚知道從哪裡發力可以擰開把手,抽屜也能按預設滑軌平穩拉出。
為什麼重要
我們認為,PhysForge 最聰明的地方在於把物理先驗從純視覺生成裡拆了出來。
過去大家試圖用一個大模型同時搞定外觀與物理,結果往往是兩頭不討好:要麼外觀塌陷,要麼動起來穿模。讓大語言模型先按現實常識規劃物理規則,再讓擴散模型補全畫素和網格,邏輯上清晰得多。
對於機器人領域的開發者來說,這相當於拿到了一座隨時可呼叫的合成數據工廠。以往訓練具身智慧體抓取各種日常器具,最大的瓶頸就是缺帶有互動邏輯的模擬環境,PhysForge 能大幅降低搭建訓練場景的時間成本。
不過,目前的侷限也顯而易見。15 萬資產的規模對於覆蓋現實世界所有奇形怪狀的機械結構來說依然有限,如果遇到複雜的複合機構或者柔性材質,藍圖規劃的準確率還有待檢驗。但無論如何,把 3D 生成從「好看的皮囊」推向「能用的身體」,這一步的方向完全走對了。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org