虚拟人系统 SARAH:具备 3D 空间感知,VR 里能自然对视
研究人员提出实时全身虚拟人系统 SARAH。它能感知用户在 3D 空间的位置,实时调整身体朝向、站位并进行眼神接触,运行帧率超 300 FPS。最值得关注的是它支持眼神接触强度调节,让 VR 交互体验更贴近真人。

戴上 VR 头显和虚拟人说话时,最出戏的往往不是画质,而是对方僵硬的反应:明明你在房间里走动,它却像个定在原地的纸板人,眼睛不知道在看哪,手势也只顾着机械对齐台词。
研究人员公布了一套名为 SARAH 的实时全身虚拟人系统,专门解决这种缺乏空间感的问题。这套全称为 Spatially Aware Real-time Agentic Humans 的方案,能让虚拟角色在 3D 空间里感知你的具体位置,实时转过身面对你,并做出自然的眼神交流。
会看人、会走位,还能调节对视强度
以往很多动作生成模型只管根据声音配手势,角色根本不知道对面的人站在哪。SARAH 则同时接收用户的 3D 头部位置和双方对话音频,一边生成配合语调的全身动作,一边根据你的移动调整站姿与朝向。
更有意思的是它的眼神控制功能。研究团队引入了凝视评分机制和无分类器引导,把空间学习和视线控制分离开来。这意味着用户可以在推理时自由调整对视强度。
如果你把强度设为 0,角色就会呈现出日常聊天时很自然的眼神交替,时不时移开视线;如果调到 1,它就会始终盯着你看。用户可以按照自己的习惯随时切换,避免了传统虚拟人不是目光呆滞就是死盯不放的尴尬。
超过 300 帧的实时串流
为了能在 VR 头显上流畅跑起来,研究人员在架构上做了精简。他们把因果 Transformer VAE 与交错潜在标记结合,配合流匹配模型进行流式推理。
在 Embody 3D 数据集的测试中,SARAH 的生成速度超过了 300 FPS,比那些非因果基线模型快了 3 倍。与三年前的动作扩散模型 MDM 相比,SARAH 生成的手势动作明显更自然,肢体穿模和抖动伪影也少得多。
因为延迟足够低,整套系统已经成功部署在实时的 VR 串流测试中。用户在头显里看到的不只是一个念稿的皮套,而是一个能随着你的脚步和语音实时给出肢体反馈的虚拟伙伴。
为什么重要
我们认为,SARAH 最聪明的点在于它没有盲目堆砌大模型参数,而是紧扣空间交互的核心痛点。在 VR 这种极度依赖沉浸感的场景里,几十毫秒的延迟或者一次对不准的眼神,都会直接打破临场感。把动作推理推到 300 FPS 以上,才算真正拿到了进入消费级硬件的门票。
对开发者和内容创作者来说,这套方案为虚拟伴侣、VR 远程会议和游戏 NPC 提供了一个即插即用的动作底座。它证明了不需要昂贵的动捕机房,靠算法实时推算也能做出足够生动的肢体语言。
不过,目前的展示主要依赖特定的头部追踪和音频输入,在更复杂的多人混战或剧烈肢体互动场景下,动作协调性还有待检验。但无论如何,当虚拟人学会了转头看你,虚拟现实里的社交距离才算真正被拉近了。
来源 (1)
- arxiv.org(在新标签页打开)原文arxiv.org