跳到正文
IFAI

開源專案

4DAnyone:一段普通影片,轉成能自由旋轉的 4D 角色

首次發布 傳播指數 48

開源專案 4DAnyone 釋出,只需輸入一段單目人物運動影片,就能重建出可任意角度觀察的 4D 高斯潑濺模型。它通過提取骨骼引導多視角生成,細節和一致性優於以往同類方案,目前已開原始碼及約 12GB 模型權重。

4DAnyone:一段普通影片,轉成能自由旋轉的 4D 角色
圖:arxiv.org

4DAnyone 是一個剛開源的動態三維重建工具。你只要隨手拍一段單目人物運動影片,它就能把畫面裡的人提取出來,轉換成一個可以 360 度自由旋轉、放慢拉近觀察的 4D 角色模型。

說白了,它輸出的不是普通的 3D 骨骼網格,而是一套帶動作資訊的 4D 高斯潑濺(4D Gaussian Splatting)資產。不管是不同體型的人物還是飄逸複雜的服裝,它都能直接處理。

它是怎麼把單目影片變活的

以往用單鏡頭影片做動態重建,最大的痛點是視角一多就崩潰。過去像 ReCam Master 或者 Trajectory Crafter 這類模型,生成兩三個視角看著還行,但要重建高質量的 4D 高斯潑濺,往往需要幾十個視角的連貫畫面,模型注意力視窗一超載,角色就會變形、飄移。

4DAnyone 的做法分三步。首先,它會從輸入的原始影片中提取一套 3D 骨骼資訊。

接著,系統用這個骨骼結構作為空間座標,引導影片擴散模型去腦補其他全新角度的畫面。為了防止視角之間各畫各的,研發團隊設計了兩個關鍵機制:一個是把歷史參考視角壓縮成固定長度的混合解析度上下文(RCP),計算複雜度直接壓到常數級;另一個是在去噪過程中輪換目標視角的分組(TCR),高噪聲階段共享大框架,低噪聲階段鎖死紋理細節。

最後,模型把這些視角全部統一起來,直接擬合成高精度的 4D 高斯潑濺動態角色。

規格、開源程度與上手門檻

在 DNA-Rendering 和 DyMVHumans 這類基準測試裡,4DAnyone 無論是生成的全新視角影片質量,還是最終重建出的 4DGS 動態細節,表現都明顯好過之前的方案。訓練資料除了實測棚拍和自然影片,團隊還用自己的遊戲引擎專門搭了一套 MVGameHuman 資料集來強化泛化能力。

專案目前已經在 GitHub 和專案主頁上開源了全部內容,包括完整程式碼、本地執行教程以及約 12GB 的模型權重。

對於想要本地部署的開發者來說,12GB 的模型體量意味著你需要一張視訊記憶體相對寬裕的桌面或伺服器顯示卡。雖然它支援普通手機單目影片輸入,但因為涉及骨骼提取和多視角擴散生成,本地算力門檻並不算低。

為什麼重要

如果你在做遊戲資產原型、虛擬人或者視覺特效,4DAnyone 值得你立刻拉下來跑一跑。以往要抓一個動態 4D 角色,非得進專業的光場或多相機陣列攝影棚不可,成本動輒幾萬幾十萬。現在只要一段日常拍攝的影片就能出可用資產,把動態數字人的製作門檻砍了一大截。

不過我們認為,這類技術目前更適合用來做中期資產粗模或輕度互動演示。從單目影片腦補背面和被遮擋區域,本質上依然依賴擴散模型的機率預測,遇到極度複雜或反常識的動作時,骨骼和幾何貼合仍可能偶發翻車。但作為開源界目前細節和一致性最好的 4D 角色方案,它已經給輕量化 3D 內容生產蹚出了一條很清晰的路。

來源 (1)

  1. [1]

每日 AI 內容精選