跳到正文
IFAI

AI科研

Meta 公佈 Avat3r:只需 4 張自拍照,幾分鐘捏出可動逼真頭像

首次發布 傳播指數 33

Meta 與慕尼黑工業大學研究團隊公佈論文 Avat3r,僅憑 4 張手機自拍和幾分鐘計算,就能生成可驅動的照片級 3D 頭像。它藉助視覺 Transformer 預測 3D 高斯,砍掉了以往百臺相機或數小時渲染的門檻;不過目前在 RTX 3090 上僅跑 8 FPS,尚無法即時渲染。

Meta 公佈 Avat3r:只需 4 張自拍照,幾分鐘捏出可動逼真頭像
圖:uploadvr.com

以往想要在虛擬世界裡搞出一個不像橡皮泥、能跨過「恐怖谷」的逼真數字人,門檻高得嚇人。你要麼得走進裝有上百臺專業相機的攝影棚,要麼得拿著手機對著鏡頭擠眉弄眼做完 65 種表情,再把資料扔進四塊高階顯卡里硬算幾個小時。

現在,Meta 和慕尼黑工業大學的研究人員給出了一個完全不同的解法。在一篇名為《Avat3r》的最新論文中,他們展示了一套新系統:只要用手機拍 4 張自拍,幾分鐘內就能生成一個可以做表情的逼真 3D 頭像。

告別百臺相機與 65 種表情

Meta 琢磨逼真虛擬人技術已經超過六年了。熟悉 VR 的人可能知道,他們最早那套效果驚豔的 Codec Avatars,背後是極其昂貴的專用採集裝置,機房裡動輒架著 100 多臺同步相機,普通人根本摸不到邊。

後來他們嘗試過用手機掃描做降級方案。雖然裝置便宜了,但過程非常折騰,使用者必須在 3 分多鐘裡連續做出 65 種面部表情,拍完後還得在 4 塊高階 GPU 上跑幾個小時才能算出模型。

這次 Avat3r 最大的突破,就是把輸入門檻一口氣砍到了 4 張自拍照,處理時間也從數小時縮減到了幾分鐘。你不需要錄長影片,也不需要按要求挨個擺出古怪的表情,隨手拍四下就夠了。

把 3D 高斯潑濺交給 Transformer

能在極少數據下跑出細節,關鍵在於底層的技術架構換了路子。研究團隊採用了一種名為「大型重建模型」(LRM)的方法。

簡單來說,就像大語言模型用 Transformer 理解文字規律一樣,Avat3r 用視覺 Transformer(ViT)來理解人臉的三維幾何規律。模型看到這 4 張二維自拍後,會直接預測並生成一組 3D 高斯(3D Gaussians)。

這種技術其實就是大家最近常聽到的 3D 高斯潑濺(Gaussian Splatting),類似 Varjo Teleport、Meta 自己的 Horizon Hyperscapes 以及 Niantic 的 Scaniverse 裡用到的渲染邏輯,能保留非常自然的皮膚質感和光影。

不過,目前的 Avat3r 還不是成品。雖然生成速度很快,但它的渲染極其吃力,在單張 RTX 3090 顯示卡上只能跑出 8 FPS,完全談不上即時互動。此外,當前的動畫驅動還沒直接接入 VR 頭顯的面部和眼動追蹤,儘管研究人員表示從技術上適配並不難。

為什麼重要

對普通使用者來說,逼真虛擬人一直停留在演示片裡,核心阻礙就是「採集太累」。如果未來只要 4 張自拍就能生成能用的高保真化身,哪怕先用於視訊會議或社交軟體的虛擬替身,體驗門檻也是天壤之別。不過以它目前 8 幀每秒的表現,大家現在還不需要急著期待它立刻裝進 Quest 頭顯,它目前更像是一個打通關鍵路徑的實驗室雛形。

對行業而言,這項研究驗證了「生成式 3D 重建」在人臉領域的威力。以前行業習慣靠暴力堆採集裝置、堆幾何掃描精度,而 Avat3r 證明了用預訓練的大模型去「腦補」缺失的視角和表情完全可行。這會逼著其他做元宇宙和數字人 avatar 的團隊從傳統的圖形學流水線,加速轉向「Transformer 預測 3D 高斯」這條新跑道。

我們認為,Meta 這一步走得相當務實:先用最容易獲取的輸入(幾張自拍)解決最痛苦的使用者端採集問題。至於 8 FPS 的渲染瓶頸,在圖形學和 AI 推理最佳化的歷史規律面前,往往反而是最好解決的那一部分。假以時日,當推理框架再經歷幾輪輕量化裁剪,虛擬世界的真實感門檻很可能會被這項技術徹底推平。

來源 (1)

  1. [1]
    uploadvr.com(在新分頁開啟)原文uploadvr.com

每日 AI 內容精選