跳到正文
IFAI

AI科研

GenRecon 亮相:幾張照片重建大尺度 3D 場景,效果提升 16%

首次發布 傳播指數 36

研究人員公佈 3D 場景重建方法 GenRecon。它將大場景切分成重疊塊,結合 Trellis.2 先驗與幾張普通照片,直接生成可編輯的室內 PBR 網格,表現優於現有前沿方法 16%。這意味著無需昂貴掃描器,普通手機拍幾張照就能快速復刻空間資產。

GenRecon 亮相:幾張照片重建大尺度 3D 場景,效果提升 16%
圖:arxiv.org

想把現實裡的房間搬進虛擬世界,以往要麼扛著幾萬塊的專業雷射掃描器,要麼圍著角落拍上幾百張照片,稍有遺漏渲染出來就會千瘡百孔。

研究人員公佈了一項名為 GenRecon 的新方法。只要拿普通相機或手機拍幾張稀疏的 RGB 照片,它就能直接重建出大尺度室內 3D 場景,效果比現有的前沿重建方法提升了 16%。

把大房間切成拼圖來生成

此前用生成式 AI 做 3D 資產,最大的障礙在於模型通常只能處理單個物體。椅子、雕像或玩具能做得極度逼真,可一旦換成整間客廳,計算複雜度便會迅速失控。

GenRecon 換了個非常聰明的切入點:它把整個大場景切分成多個相互重疊的區域性空間塊。

每一個區域性塊分別進行條件化 3D 生成,再通過邊緣重疊的部分保證空間連續性。這樣一來,原本侷限在單個物體上的生成能力,就順理成章地平鋪到了整個大房間。

借力 Trellis.2,照片直接變可編輯網格

除了分塊策略,GenRecon 還引入了頂尖生成模型 Trellis.2 的形狀先驗,並結合 DINOv3 進行特徵提取。

為了把普通照片精準變成空間幾何,研究人員設計了一套基於投影的條件機制。無論拍攝順序如何,它都能將帶有位姿的多視角影像特徵,提升並錨定到與生成模型完全對齊的 3D 表達中。

最終輸出的結果不是隻供觀看的點雲或輻射場,而是工業界直接能用的 PBR(基於物理渲染)多邊形網格。不管是房屋看房、展廳復刻還是虛擬漫遊,拿出來的模型天然具備材質和光照屬性,而且支援二次編輯。

為什麼重要

對獨立遊戲開發者、建築設計師和 VR 內容創作者來說,這相當於把空間資產數字化的門檻打到了地板上。你不再需要昂貴的三維掃描裝置,也不用手動清理破損的點雲網格,幾張隨手拍的照片就能換來現成的工業級資產底模。

對行業而言,GenRecon 填補了「單物體生成」與「場景級重建」之間的鴻溝。過去 NeRF 或 3D 高斯潑濺雖然能還原好看的視覺視角,但匯出的幾何網格往往粗糙甚至無法編輯;GenRecon 直接生成標準 PBR 網格,切中了下游製作管線最想要的東西。

我們認為,這一步最聰明的地方在於借力打力,沒有重頭去訓練一個無比龐大的場景大模型,而是靠重疊分塊把成熟的物體先驗放大到了空間尺度。不過,它依然依賴準確的相機位姿計算,如果輸入照片過於稀疏或缺乏有效重疊,拼接處是否會出現幾何畸變,仍然需要實際專案來檢驗。

來源 (1)

  1. [1]

每日 AI 內容精選