Meta 開源 GenIA:輸入單張照片或影片,直接重構完整 3D 物體
Meta 釋出新系統 GenIA,能將普通圖片或影片轉換成完整 3D 模型。它基於 SAM 3D 改進,加入持續比對機制即時校準外觀、位置與幾何結構。最值得關注的是它無需重新訓練大模型就能大幅提升還原度,程式碼已在非商業許可證下開源。

GenIA 是 Meta 開源的一個 3D 重構框架,能把一張普通照片、稀疏視角多圖或者動態影片片段,直接轉成完整的 3D 物體資產。
生成式 3D 模型雖然能腦補出未觀察到的背面幾何,但生成結果往往對不上原圖的外觀、姿態和尺寸。GenIA 解決的正是這個還原度問題。
它是怎麼做到的
GenIA 的核心思路是「測試階段輸入對齊」,也就是在推理階段校準,完全不需要重新訓練底座大模型。
它直接借用了 SAM 3D 的生成先驗。在去噪過程中,它引入了可見性偏置注意力、跨視角融合和可微渲染引導,讓模型生成外觀時緊貼原始輸入。
對於空間位姿,系統從輸入幾何中直接推算平移和縮放比例,同時保留原本學習到的旋轉先驗,解決了 3D 生成常見的漂移和比例失真問題。
在生成完成後,它還包含一個可選的微調步驟,通過輕量級解碼器介面卡和外觀潛變數微調,持續比對生成模型與原圖差異,進一步修正物體的擺放與細節。
如果輸入動態物體的時序幾何,系統還能解構出統一且與輸入對齊的標準外觀,以及穩定的世界座標擺放。
效果與開源情況
根據論文在合成數據與真實場景基準上的測試,GenIA 在姿態預測與物體幾何重構上全面超過了現有的最佳化型方法、單幀圖生 3D 以及影片生成 4D 的 baseline。
程式碼目前已經公開,專案主頁上提供了完整的依賴安裝和本地部署執行指南。
需要注意的是,Meta 為這套系統採用的是 Creative Commons 非商業許可證(CC non-commercial),目前只能用於研究和個人實驗,不能直接塞進商業管線。
為什麼重要
我們認為 GenIA 最聰明的地方在於不動底座模型,只靠推理階段的引導和幾何對齊來解決「形似神不似」的老毛病。這種輕量化外掛式的思路,對算力吃緊的開發者非常友好。
搞 3D 內容創作、數字孿生或者具身智慧研究的朋友現在就可以克隆程式碼跑跑看。雖然非商用限制了它進入商業遊戲資產生產,但作為個人工作流裡的單圖建模輔助工具,已經相當實用。
來源 (2)
- arxiv.org(在新分頁開啟)原文arxiv.org
- youtube.com(在新分頁開啟)報導youtube.com