GeoWeaver 亮相:把普通長影片切片重建,解決 3D 場景漂移難題
研究團隊公佈 3D 重建框架 GeoWeaver,能把普通長影片轉換為全域性一致的 3D 場景。它將影片拆成小片段預測深度,再通過長距離匹配逐步拼接,解決了常見的尺度漂移與相機軌跡失真問題,在基準測試中平均誤差最低。不過該成果目前僅釋出了論文。

拿著手機拍一段十幾秒的短影片,現在的 AI 很容易就能建出一個漂亮的 3D 模型。但如果你端著鏡頭在屋裡走上兩三分鐘,事情就會迅速失控。
AI 看著看著就會迷失方向。上一秒測出來的桌子尺寸,走到房間另一頭再看可能就變小了;相機軌跡慢慢走樣,最終拼出來的 3D 世界不僅扭曲,還到處都是重影和漂移。
研究團隊公佈了名為 GeoWeaver 的 3D 重建新框架,專門用來啃下普通長影片這個硬骨頭。在多項長序列基準測試中,它拿到了最低的平均誤差。
把影片拆成切片,再用網織回去
直接把一整段長影片塞進神經網路做全域性重建,視訊記憶體根本吃不消。以往很多工具的妥協方案是切成小段各算各的,但這就像盲人摸象,每段尺度都不一樣,最後根本拼不到一塊。
GeoWeaver 的解法分為兩步,名字裡的「編織者」很形象地概括了它的機制。
第一步,它通過幾何先驗模型,把長影片拆成多個小片段,分別預測每個片段的深度、置信度以及相機引數。這保證了每一個區域性的細節足夠紮實。
第二步則是它的核心武器:測試期自適應。系統不會硬拼,而是先給各個片段做順序初始化與全域性對齊,再從粗到細地微調相機位姿、仿射深度校正和內參。
更聰明的是,它不僅看相鄰幀,還引入了跨切片重疊視角和長距離匹配約束,用專門的統計目標函式同時拉住 2D 重投影和 3D 一致性。哪怕鏡頭兜兜轉轉又回到原點,場景的尺度也不會飄掉。
論文測試顯示,這種做法換來了更乾淨的點雲和極準的相機軌跡。消融實驗甚至發現,把這套後處理拼裝流程套在別的深度模型上,同樣能顯著改善軌跡估算,說明它是一套通用的裝配邏輯。
為什麼重要
把長影片重建做穩,是很多現實應用邁向落地的關鍵門檻。
如果未來這個工具開源,普通的影片創作者、獨立遊戲開發者甚至是房產中介,可能只需要拿著手機四處走一圈,就能直接匯出一套尺度精確、不會錯位的 3D 資產,省去了昂貴的雷射雷達掃描器。
在行業層面,它給端到端重建大模型提供了一個非常實用的折中解法。現在大家都在卷一次性吃下超長上下文,但算力和視訊記憶體成本居高不下;GeoWeaver 證明了把大任務切塊、再用嚴謹的幾何約束在測試期拼接,依然能跑出極高的精度,這會啟發不少空間智慧領域的後續工程最佳化。
不過就目前而言,我們必須潑點冷水:團隊目前只放出了技術論文,程式碼和權重都還沒公開。測試期自適應在推理時也需要額外的迭代最佳化時間,在算力開銷和開箱即用之間,它顯然還需要經歷一次工程化的打磨。對於想上手的開發者來說,現在更適合把它當成一份有啟發性的思路參考,保持關注即可。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org