FlexAvatar 亮相:單張圖片 2 分鐘捏出 360 度可動 3D 頭像
FlexAvatar 提出一種基於 3D 高斯潑濺的新架構,僅憑單張圖片就能在 2 分鐘內生成完整的 360 度可動 3D 頭部模型。團隊通過專屬標記解耦驅動訊號與視角,混合單目和多視角資料訓練,在 RTX 3090 上僅耗 1.7GB 視訊記憶體即可跑出 20 FPS 的即時渲染與表情驅動。
拿單張自拍捏 3D 頭像,大家通常會遇到一種尷尬:正臉看著還挺像,一旦鏡頭轉到側面甚至腦後,整個人頭直接崩成扁平紙片,稍微做個誇張表情五官更會跟著視角一起扭曲。
FlexAvatar 想解決的正是這個老大難問題。來自慕尼黑工業大學等機構的研究團隊提出了一種新架構,只要輸入一張普通單目人像照片,就能在 2 分鐘內算出一個完整的 360 度 3D 頭部模型,並且後續可以隨意驅動表情與轉頭。
把轉頭和做表情徹底拆開
以往單靠一張照片或單目影片訓練 3D 頭像,最致命的缺陷是視角和表情訊號嚴重糾纏。AI 看到一個人轉頭並咧嘴笑,根本分不清哪些畫素變化是因為轉動了鏡頭,哪些是因為肌肉運動。
FlexAvatar 採用基於 Transformer 的編解碼器架構,並接入了視覺模型 DINOv2 與 3D 高斯潑濺(3DGS)渲染技術。它在編碼器中把單張影像對映到頭像潛空間,再解碼出 3DGS 表徵。
最核心的絕活在於設計了被稱為「偏置匯聚點」(bias sinks)的可學習資料來源標記。這讓模型能同時吃下大量容易獲取的單目影片與昂貴的多視角資料,既借來了單目資料的強大泛化能力,又保住了多視角資料帶來的完整 360 度立體幾何結構。
訓練完成後,系統把視角引數和表情潛變數完全獨立開來。使用者既可以自由轉動視角看完整的後腦勺,也能單獨輸入表情訊號驅動它說話大笑。
2 分鐘生成,視訊記憶體只要 1.7GB
除了建模完整,FlexAvatar 在落地效率上也表現得相當剋制。
整個頭像建立過程僅需 2 分鐘左右。而在推理驅動階段,執行在一張常見的 RTX 3090 顯示卡上,視訊記憶體佔用僅僅需要 1.7GB。
在這麼低的資源消耗下,它依然能跑出 20 FPS 的渲染速度。此外,由於潛空間連續平滑,它不僅支援單張圖片輸入,也支援多張照片輸入以獲得更好細節,甚至能在不同人的頭像特徵之間做平滑插值過渡。
為什麼重要
我們認為,FlexAvatar 最聰明的地方不是盲目去刷超大規模多視角掃描資料,而是找到了單目與多視角的平衡解法。
對獨立開發者、遊戲工作室或 XR 社交團隊來說,這項技術意味著高擬真虛擬化身的門檻被大幅砍低。以往搭建 3D 角色要麼靠昂貴的光場掃描陣列,要麼靠人工精修穿模的後腦勺,現在一張靜態證件照或生活照就能在兩分鐘內出成品。
更關鍵的是 1.7GB 視訊記憶體與 20 FPS 的輕量表現。這意味著它不需要高階資料中心伺服器,直接跑在主流消費級顯示卡上就能勝任即時虛擬主播、NPC 即時互動或端側視訊會議替身。
不過也要看到,20 FPS 雖然勉強達到即時,距離 60 FPS 的流暢互動仍有最佳化空間。單張照片在極端側光或嚴重遮擋下的抗干擾表現,也依然需要後續更多實際場景的檢驗。
來源 (1)
- tobias-kirschstein.github.io(在新分頁開啟)原文tobias-kirschstein.github.io