跳到正文
IFAI

開源專案

ID Laura 開源:單模型搞定數字人生成,音畫同步還能帶環境音

首次發布 傳播指數 48

一體化數字人模型 ID Laura 開源。它基於 LTX 2.3,改變了以往先克隆聲音再匹配口型的兩段式做法,只需輸入單張人像、參考音訊和臺詞,就能由單個模型同步生成影片、克隆語音與環境音。目前執行至少需 24GB 視訊記憶體,推薦 48GB。

ID Laura 開源:單模型搞定數字人生成,音畫同步還能帶環境音
圖:arxiv.org

過去做一段逼真的數字人影片,流程有多折磨人,做過內容的朋友應該都深有體會。

你得先找個語音克隆工具,把目標人物的聲音調出來。接著找一個影片生成模型,讓畫面裡的人動起來。最後還要套一層口型同步演算法,把聲音強行往嘴型上貼。

這種兩段甚至三段式的拼湊方案,結果往往非常割裂。嘴唇像是在唸經,說話的重音和身體動作完全對不上,而且四周安靜得像真空,毫無現場氛圍。

3 月 10 日開源的 ID Laura,想要徹底幹掉這種打補丁的做法。它把影片、克隆聲音和現場動效,揉進了同一個模型裡。

告別拼圖,一張圖一段音訊直接一步到位

ID Laura 在學術論文裡被稱為 ID-LoRA。它的思路非常直接:既然人說話時本來就是音畫一體的,為什麼生成模型非要分開做?

它基於開源的 LTX 2.3 音影片擴散骨幹網路,通過上下文 LoRA(In-Context LoRA)架構,實現了真正的單次生成。

用起來很簡單,你只需要給它一張目標人物的照片、一段幾秒鐘的原聲參考音訊,再加上提示詞和你想讓他說的臺詞。

模型在生成畫面的那一刻,就在同步生成這個人的克隆語音、說話口型,甚至包括肢體動作與背景環境聲。

比如提示詞裡寫了「敲擊桌面」或者「遠處樹木倒塌」,生成的影片裡不僅能看到動作,耳邊還會精準出現對應的音效,完全不需要後期再去配音軌。

巧妙解決位置編碼,3000 對資料就能馴服

把影像和音訊塞進同一個擴散模型,技術上其實有兩個大坑。ID Laura 的團隊用了很巧妙的辦法填平了它們。

第一個難點是參考特徵和生成內容打架。因為它們共享同一個位置編碼空間,模型很容易分不清誰是參考、誰是新生成的。

團隊引入了負時間位置機制,把參考標記放在不相交的 RoPE 編碼區域,既保住了時序結構,又徹底解決了混淆。

第二個難點是聲音特徵容易被稀釋。在一步步去噪的過程中,說話人的獨特音色經常越變越淡,最後淪為大眾臉音色。

他們設計了一種叫做「身份引導」的分類器自由引導變體,通過對比有無參考訊號的預測差異,硬生生把個人音色特徵給放大了。

更讓人意外的是訓練成本。這個方案僅僅用了一張 GPU 和大約 3000 對訓練資料,就完成了調優。

在人工盲測中,面對 Kling 2.6 Pro 這樣的商業強手,73% 的人認為 ID Laura 的聲音相似度更高,65% 覺得說話風格更自然。在複雜環境背景下,它的音色保持度比 Kling 提升了 24%。

不過,天下沒有免費的午餐。目前在本地跑這個模型,門檻依然不低,至少需要 24GB 視訊記憶體,官方推薦直接上 48GB 顯示卡。

為什麼重要

我們認為,ID Laura 踩準了生成式 AI 演進的必然方向:多模態終究要從「結果拼接」走向「原生統一」。

對自媒體作者、獨立開發者和遊戲團隊來說,一體化生成意味著工作流的斷崖式簡化。以往要開三個網頁、調四次引數的繁瑣流程,現在變成了單次推理,省下的不僅是時間,還有音畫脫節帶來的巨大廢片率。

對行業而言,它給商用影片大模型敲了一記警鐘。過去大廠比拼畫質、比拼時長,但在視聽聯動的物理真實感上,幾乎都在走拼裝路線。ID Laura 證明了,即便只有幾千對資料,單模型的內生一致性也能在體驗上反超複雜的拼湊管線。

不過,它的短板同樣清晰。24GB 視訊記憶體的底線把普通消費級玩家擋在門外,它目前更適合有專業工作站的極客或小型工作室先嚐鮮。此外,如此低門檻的端到端深度偽造能力,也勢必會給防偽與安全鑑偽帶來新一輪壓力。

來源 (1)

  1. [1]

每日 AI 內容精選