跳到正文
IFAI

AIGC

即時數字人模型 LPM 1.0:一張照片跑出 45 分鐘對話影片

首次發布 傳播指數 41

研究團隊推出即時數字人模型 LPM 1.0,僅需單張參考圖與音訊就能流式生成角色影片。最值得關注的是,它不僅能對口型,還能模擬轉眼球、調整麥克風等肢體細節與傾聽狀態,且 45 分鐘內不崩臉。目前該專案僅釋出技術報告與演示,暫未開源或開放公測。

圖:the-decoder.com

現在的 AI 語音對話,體驗其實挺割裂的。要麼對著一個跳動的波形球自言自語,要麼螢幕裡的數字人戴著人皮面具似地只動嘴皮子,聊上兩三分鐘,臉部就開始抽搐變形。

研究團隊最近公佈了一項名為 LPM 1.0 的即時數字人模型,試圖把這個短板補上。只要餵給它一張單人照片和一段音訊,它就能即時流式生成影片,甚至能一口氣連續聊上 45 分鐘,畫面裡的角色不僅不崩臉,還像真人一樣有各種下意識的小動作。

不只對嘴型,連聽你說話都有反應

以往很多所謂的虛擬人,本質上只是口型同步工具,身子僵直,眼神發空。LPM 1.0 的思路不太一樣,它把對話拆成了三種狀態:說話、傾聽和停頓。

當你在說話時,數字人不是呆呆定在螢幕前,而是會根據聽到的語音做出反饋,比如微微點頭、眼神遊移或者換個舒服的姿勢。輪到它說話時,除了嘴唇精準配合發音,它還會自然地眨眼、皺眉、猶豫,甚至伸出手向攝像頭做出擊掌的動作,或是順手扶一下面前的麥克風。

技術上,團隊用了一種叫「多粒度身份條件」的機制。除了主圖,模型還會參考不同角度和表情的素材,這意味著它在生成側臉、露出牙齒或大笑產生皺紋時,不需要憑空硬猜細節,而是直接調取參考資訊。

更實用的一點在於泛化能力。這項技術不需要針對特定角色做漫長的重新訓練,不管是寫實照片、二次元動漫臉還是 3D 遊戲建模,扔進去就能直接跑。專案負責人 Ailing Zeng 還提到,它既能直接接入 ChatGPT 或豆包等現有的語音大模型做即時對話,也能用來給現成音訊離線做播客或對白影片。

演示很驚豔,但目前只能看影片

不過,普通使用者眼下還用不上它。研發團隊明確強調,LPM 1.0 目前純粹是個研究專案,沒有任何開原始碼、釋出權重或上線公開網頁 Demo 的計劃。

團隊自己也承認,生成的畫面其實依然能挑出不少瑕疵,跟真正的實拍影片相比還有肉眼可見的差距。演示裡出現的所有人臉,也全部來自 AI 生成,並非真人實拍。

更核心的顧慮在於安全。這種單張照片驅動、低延遲、能連續聊大半個小時的技術,幾乎就是現成的即時 Deepfake 基礎設施。一旦被不法分子拿去冒充親友或公司高管打影片電話,詐騙門檻會被拉低到不可思議的程度。研究團隊也直言,在建立起足夠穩固的安全防護與合規機制之前,絕不會輕易開放使用許可權。

為什麼重要

我們認為,LPM 1.0 最值得誇獎的地方,不是單純拉長了影片生成的時長,而是它敏銳地抓住了人機互動中最容易被忽視的「傾聽態」。

真人對話絕不是單純的你一句我一句。你在說話時對方的一個眼神晃動、一次欲言又止的深呼吸,恰恰是打消機械感、跨越恐怖谷效應的關鍵細節。LPM 1.0 證明了僅靠單圖和音訊流,就能在極低延遲下維持這種細膩的動態互動,這給未來的遊戲 NPC、虛擬陪伴和數字客服指明瞭一條極具可行性的產品路徑。

但從另一個角度看,這類技術的擴散速度遠快於防禦手段的建設。它做到了即時、長時程、零額外微調成本,這意味著攻擊者只要拿到受害者一張社交媒體公開照片,就能在視訊通話裡上演連環套。團隊選擇閉門保密非常清醒,接下來真正考驗行業的,不是誰能把虛擬人做得更真,而是誰能在這種即時欺詐面前築起足夠高的防線。

來源 (1)

  1. [1]

每日 AI 內容精選