NVIDIA 開源 Audio2Face:輸入音訊就能即時生成 3D 面部動畫
NVIDIA 宣佈正式開源 Audio2Face 技術,包括模型、SDK 和訓練框架。該工具通過分析音素和語調,能由音訊直接生成精準的口型與微表情,支援離線渲染與即時流式傳輸。也就是說,遊戲和 3D 應用開發者現在可以免費且深度定製這套面部動畫管線。

NVIDIA Audio2Face 是一套用語音直接驅動 3D 角色面部表情與口型的工具,現在官方把它徹底開源了。
這次開放的不僅是預訓練模型和推理 SDK,還包括完整的訓練框架,開發者可以免費下載、整合,並根據自己的角色風格做二次微調。
它能做什麼
你只需要給它一段語音輸入,它就能自動生成高精度的面部表情和對齊的口型動畫,免去了繁瑣的手動打關鍵幀與骨骼繫結微調。
這套工具支援兩種工作流:既可以在影視與預渲染管線中做離線高質量匯出,也能直接接入即時引擎,為 AI 驅動的動態 NPC 或虛擬主播提供毫秒級的流式面部動畫。
在商業遊戲領域,像 The Farm 51 已經在《Chernobylite 2: Exclusion Zone》中運用該技術節省了大量面部動捕清理工時;Survios 也在《Alien: Rogue Incursion Evolved Edition》中利用它來加速口型同步製作流程。
3D 角色平臺 Reallusion 也把 Audio2Face 整合進了 iClone 和 Character Creator 工具鏈,支援多語言口型生成,並與面部木偶、AccuLip 等精修功能無縫配合。
運作機制與開放程度
這套系統的核心邏輯在於分析語音音訊中的聲學特徵,比如音素和語調起伏。
模型會將這些聲學資料轉化為動畫流,再精準對映到 3D 角色的面部變形目標或骨骼姿態上,從而表達自然的說話情緒。
這次開源最實在的地方,在於 NVIDIA 把訓練框架也一併交了出來。
如果預置模型無法完美匹配某種特殊的卡通畫風,或者你需要針對小語種做特定最佳化,可以直接用自己的動畫資料在現有模型基礎上進行微調與定製。
相關工具與 SDK 已經可以在 NVIDIA Developer 平臺獲取,官方同時在 Discord 設立了開發者社群供交流答疑。
為什麼重要
面部繫結和口型同步一直以來都是 3D 內容製作中最費時、最燒錢的環節。Audio2Face 的開源,讓獨立遊戲開發者和小型工作室不需要昂貴的動捕裝置,就能做出工業級水準的數字角色。
我們認為,NVIDIA 這一步走得相當精明。把原本偏向專有生態的殺手級工具開源,可以迅速將自己的技術標準推向整個 3D 與遊戲開發社群;而當行業裡有越來越多即時神經面部動畫在跑時,最終受益的依然是自家的 RTX 顯示卡與算力硬體。
來源 (3)
- ndtvprofit.com(在新分頁開啟)原文ndtvprofit.com
- developer.nvidia.com(在新分頁開啟)報導developer.nvidia.com
- theverge.com(在新分頁開啟)報導theverge.com