跳到正文
IFAI

開源專案

Meta 開源 GenIA:輸入單張照片或影片,直接重構完整 3D 物體

首次發布 傳播指數 48

Meta 釋出新系統 GenIA,能將普通圖片或影片轉換成完整 3D 模型。它基於 SAM 3D 改進,加入持續比對機制即時校準外觀、位置與幾何結構。最值得關注的是它無需重新訓練大模型就能大幅提升還原度,程式碼已在非商業許可證下開源。

Meta 開源 GenIA:輸入單張照片或影片,直接重構完整 3D 物體
圖:arxiv.org

GenIA 是 Meta 開源的一個 3D 重構框架,能把一張普通照片、稀疏視角多圖或者動態影片片段,直接轉成完整的 3D 物體資產。

生成式 3D 模型雖然能腦補出未觀察到的背面幾何,但生成結果往往對不上原圖的外觀、姿態和尺寸。GenIA 解決的正是這個還原度問題。

它是怎麼做到的

GenIA 的核心思路是「測試階段輸入對齊」,也就是在推理階段校準,完全不需要重新訓練底座大模型。

它直接借用了 SAM 3D 的生成先驗。在去噪過程中,它引入了可見性偏置注意力、跨視角融合和可微渲染引導,讓模型生成外觀時緊貼原始輸入。

對於空間位姿,系統從輸入幾何中直接推算平移和縮放比例,同時保留原本學習到的旋轉先驗,解決了 3D 生成常見的漂移和比例失真問題。

在生成完成後,它還包含一個可選的微調步驟,通過輕量級解碼器介面卡和外觀潛變數微調,持續比對生成模型與原圖差異,進一步修正物體的擺放與細節。

如果輸入動態物體的時序幾何,系統還能解構出統一且與輸入對齊的標準外觀,以及穩定的世界座標擺放。

效果與開源情況

根據論文在合成數據與真實場景基準上的測試,GenIA 在姿態預測與物體幾何重構上全面超過了現有的最佳化型方法、單幀圖生 3D 以及影片生成 4D 的 baseline。

程式碼目前已經公開,專案主頁上提供了完整的依賴安裝和本地部署執行指南。

需要注意的是,Meta 為這套系統採用的是 Creative Commons 非商業許可證(CC non-commercial),目前只能用於研究和個人實驗,不能直接塞進商業管線。

為什麼重要

我們認為 GenIA 最聰明的地方在於不動底座模型,只靠推理階段的引導和幾何對齊來解決「形似神不似」的老毛病。這種輕量化外掛式的思路,對算力吃緊的開發者非常友好。

搞 3D 內容創作、數字孿生或者具身智慧研究的朋友現在就可以克隆程式碼跑跑看。雖然非商用限制了它進入商業遊戲資產生產,但作為個人工作流裡的單圖建模輔助工具,已經相當實用。

來源 (2)

  1. [1]
  2. [2]
    youtube.com(在新分頁開啟)報導youtube.com

每日 AI 內容精選