腾讯提出 InteractAvatar:数字人告别站桩,能拿手机戴耳机了
腾讯等团队提出 InteractAvatar 框架,让数字人不仅能说话,还能与周围物体互动(如戴耳机、拿手机)。该框架支持连续指令与精确时间戳控制,解决了传统数字人只能站桩口播的局限。最值得关注的是,它让虚拟人视频生成迈向了能与真实环境交互的新阶段。

看多了各类 AI 虚拟主播,你大概早就习惯了那个经典的画面:一个看起来挺逼真的人形立牌,站在镜头前口型对得很准,但两只手要么僵硬地悬在半空,要么毫无意义地挥动两下。
只要你让它端起桌上的水杯喝一口,或者拿起面前的新款手机展示一下,这个虚拟形象立刻就会露馅。
腾讯等研究团队公布了一项名为 InteractAvatar 的新框架。这项研究想解决的,正是数字人一直以来只能「站桩口播」的尴尬局面,让虚拟角色真正能够与身边的真实物体互动。
告别「站桩」,能拿手机也能戴耳机
以往的数字人方案,不管是基础的说话动作还是类似 Omni Avatar 这类竞品,核心基本都停留在让角色动起来和说话上,几乎没办法操纵身边的物品。
InteractAvatar 的突破在于引入了环境感知的虚实交互能力。数字人不仅能做出各种复杂的肢体和手势动作,还能自然地做出戴耳机、拿手机或者摸玩偶这类需要手眼配合的交互。
更关键的是控制精度。它支持连续的文本动作指令,并能精确对应到时间戳上。比如你可以明确要求它「第 4 秒摸苹果,第 12 秒拿起来」,模型就能按照时间线一步步精准呈现,而不是乱晃一气。
拆开大脑与画笔的双流架构
在生成视频时,既要让数字人听懂指令去拿东西,又要保证视频画质不崩坏,业内一直存在所谓的「控制与质量两难」。腾讯团队把这个难题拆解成了一个双流框架,把感知规划和视频合成彻底分开。
系统主要由两个核心模块组成。一个是感知与交互模块(PIM),负责借助物体检测来理解周围环境,并规划出符合文本意图的交互动作;另一个是音频与交互感知生成模块(AIM),专门用来合成生动的说话人像。
借助专门设计的动作到视频对齐器,这两个模块共享相似的网络结构,可以并行协同生成动作和视频画面。此外,团队还建立了一个名为 GroundedInter 的评测基准,专门用来衡量这类环境交互视频的生成质量。
为什么重要
对电商直播、虚拟客服和内容创作者来说,这算是一个直击痛点的进展。过去的数字人很难做深度的商品展示,毕竟连商品都拿不起来,所谓的开箱和带货就只能靠后期贴图;一旦数字人能自主抓取物品并演示功能,虚拟视频的真实感会直接上一个台阶。
在行业层面,视频生成和口型同步的技术已经卷得差不多了,但大多数模型面对物理世界时依然像个局外人。腾讯 InteractAvatar 展现的方向说明,虚拟人要继续往前走,必须补齐与环境交互这门课。
我们认为,这套方案最聪明的地方在于把感知规划与画面渲染解耦。这种模块化设计既保证了秒级时间戳的精确调度,又避免了动作指令把画面算力拖垮。虽然目前这项成果主要以学术论文形式呈现,具体落地到高并发的实时交互场景可能还需要优化,但它确实为下一代更像真人的数字分身指明了一条可行的路。
来源 (1)
- arxiv.org(在新标签页打开)原文arxiv.org