騰訊提出 InteractAvatar:數字人告別站樁,能拿手機戴耳機了
騰訊等團隊提出 InteractAvatar 框架,讓數字人不僅能說話,還能與周圍物體互動(如戴耳機、拿手機)。該框架支援連續指令與精確時間戳控制,解決了傳統數字人只能站樁口播的侷限。最值得關注的是,它讓虛擬人影片生成邁向了能與真實環境互動的新階段。

看多了各類 AI 虛擬主播,你大概早就習慣了那個經典的畫面:一個看起來挺逼真的人形立牌,站在鏡頭前口型對得很準,但兩隻手要麼僵硬地懸在半空,要麼毫無意義地揮動兩下。
只要你讓它端起桌上的水杯喝一口,或者拿起面前的新款手機展示一下,這個虛擬形象立刻就會露餡。
騰訊等研究團隊公佈了一項名為 InteractAvatar 的新框架。這項研究想解決的,正是數字人一直以來只能「站樁口播」的尷尬局面,讓虛擬角色真正能夠與身邊的真實物體互動。
告別「站樁」,能拿手機也能戴耳機
以往的數字人方案,不管是基礎的說話動作還是類似 Omni Avatar 這類競品,核心基本都停留在讓角色動起來和說話上,幾乎沒辦法操縱身邊的物品。
InteractAvatar 的突破在於引入了環境感知的虛實互動能力。數字人不僅能做出各種複雜的肢體和手勢動作,還能自然地做出戴耳機、拿手機或者摸玩偶這類需要手眼配合的互動。
更關鍵的是控制精度。它支援連續的文本動作指令,並能精確對應到時間戳上。比如你可以明確要求它「第 4 秒摸蘋果,第 12 秒拿起來」,模型就能按照時間線一步步精準呈現,而不是亂晃一氣。
拆開大腦與畫筆的雙流架構
在生成影片時,既要讓數字人聽懂指令去拿東西,又要保證影片畫質不崩壞,業內一直存在所謂的「控制與質量兩難」。騰訊團隊把這個難題拆解成了一個雙流框架,把感知規劃和影片合成徹底分開。
系統主要由兩個核心模組組成。一個是感知與互動模組(PIM),負責藉助物體檢測來理解周圍環境,並規劃出符合文本意圖的互動動作;另一個是音訊與互動感知生成模組(AIM),專門用來合成生動的說話人像。
藉助專門設計的動作到影片對齊器,這兩個模組共享相似的網路結構,可以並行協同生成動作和影片畫面。此外,團隊還建立了一個名為 GroundedInter 的評測基準,專門用來衡量這類環境互動影片的生成質量。
為什麼重要
對電商直播、虛擬客服和內容創作者來說,這算是一個直擊痛點的進展。過去的數字人很難做深度的商品展示,畢竟連商品都拿不起來,所謂的開箱和帶貨就只能靠後期貼圖;一旦數字人能自主抓取物品並演示功能,虛擬影片的真實感會直接上一個臺階。
在行業層面,影片生成和口型同步的技術已經卷得差不多了,但大多數模型面對物理世界時依然像個局外人。騰訊 InteractAvatar 展現的方向說明,虛擬人要繼續往前走,必須補齊與環境互動這門課。
我們認為,這套方案最聰明的地方在於把感知規劃與畫面渲染解耦。這種模組化設計既保證了秒級時間戳的精確排程,又避免了動作指令把畫面算力拖垮。雖然目前這項成果主要以學術論文形式呈現,具體落地到高併發的即時互動場景可能還需要最佳化,但它確實為下一代更像真人的數字分身指明瞭一條可行的路。
來源 (1)
- arxiv.org(在新分頁開啟)原文arxiv.org