跳到正文
IFAI

開源專案

NVIDIA 開源 Audio2Face:輸入音訊就能即時生成 3D 面部動畫

首次發布 傳播指數 68

NVIDIA 宣佈正式開源 Audio2Face 技術,包括模型、SDK 和訓練框架。該工具通過分析音素和語調,能由音訊直接生成精準的口型與微表情,支援離線渲染與即時流式傳輸。也就是說,遊戲和 3D 應用開發者現在可以免費且深度定製這套面部動畫管線。

NVIDIA 開源 Audio2Face:輸入音訊就能即時生成 3D 面部動畫
圖:ndtvprofit.com

NVIDIA Audio2Face 是一套用語音直接驅動 3D 角色面部表情與口型的工具,現在官方把它徹底開源了。

這次開放的不僅是預訓練模型和推理 SDK,還包括完整的訓練框架,開發者可以免費下載、整合,並根據自己的角色風格做二次微調。

它能做什麼

你只需要給它一段語音輸入,它就能自動生成高精度的面部表情和對齊的口型動畫,免去了繁瑣的手動打關鍵幀與骨骼繫結微調。

這套工具支援兩種工作流:既可以在影視與預渲染管線中做離線高質量匯出,也能直接接入即時引擎,為 AI 驅動的動態 NPC 或虛擬主播提供毫秒級的流式面部動畫。

在商業遊戲領域,像 The Farm 51 已經在《Chernobylite 2: Exclusion Zone》中運用該技術節省了大量面部動捕清理工時;Survios 也在《Alien: Rogue Incursion Evolved Edition》中利用它來加速口型同步製作流程。

3D 角色平臺 Reallusion 也把 Audio2Face 整合進了 iClone 和 Character Creator 工具鏈,支援多語言口型生成,並與面部木偶、AccuLip 等精修功能無縫配合。

運作機制與開放程度

這套系統的核心邏輯在於分析語音音訊中的聲學特徵,比如音素和語調起伏。

模型會將這些聲學資料轉化為動畫流,再精準對映到 3D 角色的面部變形目標或骨骼姿態上,從而表達自然的說話情緒。

這次開源最實在的地方,在於 NVIDIA 把訓練框架也一併交了出來。

如果預置模型無法完美匹配某種特殊的卡通畫風,或者你需要針對小語種做特定最佳化,可以直接用自己的動畫資料在現有模型基礎上進行微調與定製。

相關工具與 SDK 已經可以在 NVIDIA Developer 平臺獲取,官方同時在 Discord 設立了開發者社群供交流答疑。

為什麼重要

面部繫結和口型同步一直以來都是 3D 內容製作中最費時、最燒錢的環節。Audio2Face 的開源,讓獨立遊戲開發者和小型工作室不需要昂貴的動捕裝置,就能做出工業級水準的數字角色。

我們認為,NVIDIA 這一步走得相當精明。把原本偏向專有生態的殺手級工具開源,可以迅速將自己的技術標準推向整個 3D 與遊戲開發社群;而當行業裡有越來越多即時神經面部動畫在跑時,最終受益的依然是自家的 RTX 顯示卡與算力硬體。

來源 (3)

  1. [1]
    ndtvprofit.com(在新分頁開啟)原文ndtvprofit.com
  2. [2]
  3. [3]

每日 AI 內容精選