FixAnything 開源:用影片大模型一鍵修復“崩掉”的 3D 渲染
研究人員開源 FixAnything,利用影片擴散模型修補 3D 渲染中的瑕疵。無論是 3DGS、NeRF 還是網格,一旦在新視角下出現空洞與漂浮噪點,它都能借助影片先驗輸出連貫乾淨的高質量影片。

FixAnything 是一個專門用來搶救破損 3D 渲染畫面的開源工具。無論你用的是 3D 高斯潑濺(3DGS)、NeRF、傳統網格還是稀疏點雲,只要遇到視角外推時出現的破洞、懸浮噪點和模糊撕裂,它都能直接把粗糙的漫遊畫面修成乾淨連貫的高畫質影片。
做過三維重建的朋友大多踩過這種坑:從拍過照片的原角度看過去,場景細節非常精緻。但鏡頭一旦移到沒拍到的死角,整個幾何結構立刻崩塌,空中飄滿漂浮物。FixAnything 的思路非常巧妙,它沒有試圖去重構底層複雜的幾何資料,而是把修復任務看成一次影片生成任務。
影片大模型當畫工,位姿做尺子
任何破損的 3D 渲染,雖然細節爛了,但其實已經完整保留了攝像機運動軌跡和場景的大致輪廓。這正好給影片生成模型提供了天然的控制條件。
FixAnything 以 Wan2.1-I2V-14B 這一開源影片擴散模型為底座。它只需要在 20 對左右的影片樣本上微調 LoRA,就能學會把粗糙點雲或撕裂網格當成鏡頭控制線索。
為了防止生成模型自己腦補、導致每幀畫面晃動變形,團隊引入了 Flow-DPO 強化學習。系統會用 COLMAP 演算法反推生成影片的相機位姿,位姿越符合真實軌跡,得分就越高,以此逼迫模型嚴守 3D 幾何一致性。此外,它會鎖定原始視角作為錨點幀,讓畫面在穿幫區域被修補的同時,原有的真實細節絲毫不被篡改。
怎麼跑起來與硬體門檻
這套工具的程式碼和模型權重已經全部在 GitHub 和 Hugging Face 上以 Apache 2.0 協議開源,支援通過 Hugging Face 或 ModelScope 下載。
預設流程需要輸入一段沿相機路徑渲染的 61 幀影片,解析度會自動處理成 832×480。如果場景軌跡很長,指令碼會自動做分段重疊渲染。更省心的是,如果你手頭只有兩三張實拍照片,專案還集成了 MapAnything 流程,可以先自動構建稀疏三維場景,再一鍵呼叫 FixAnything 輸出乾淨漫遊。
環境基於 PyTorch 2.6、CUDA 12,並推薦開啟 FlashAttention-2。需要留意的是,由於底座 Wan2.1 模型體積約為 60 GB,加上 14B 的引數量,本地部署需要一張大視訊記憶體的專業卡或高階消費級顯示卡。
為什麼重要
這對於平時折騰實景掃描、三維漫遊和虛擬製片的團隊來說非常實用。過去要把一個少角度掃描的 3DGS 場景拿去交差,往往需要在三維軟體裡手動剔除漂浮噪點、漫遊路徑還要避開死角,費時費力。現在只要生成一段粗糙漫遊交給它當控制底稿,就能直接洗出可用的影片片段。
我們認為,這項工作展示了生成式影片先驗反哺傳統三維重建的一個絕佳切入點。它沒有盲目追求生成完整無瑕的靜態 3D 資產,而是退一步,直接在最終呈現的動態漫遊上解決視差崩壞問題,用極少的訓練樣本換取了很高的實用性。雖然目前它主要輸出影片而非直接更新三維高斯點,但對以影片交付為目的的創作者來說,這已經是一個省時省力的救場利器。
來源 (2)
- github.com(在新分頁開啟)原文github.com
- fix-anything.github.io(在新分頁開啟)報導fix-anything.github.io