跳到正文
IFAI

大模型

阿里发布 Wan Streamer:单一模型实时音视频通话,延迟仅 200 毫秒

首次发布 传播指数 50

阿里巴巴公布端到端交互模型 Wan Streamer,让 AI 在视频通话中实时看、听并同步回应。它用单一 Transformer 统一处理音视频和文本,支持全双工通信,模型端延迟约 200 毫秒。目前 v0.1 仍为 192p 概念验证,未开放实时体验。

阿里发布 Wan Streamer:单一模型实时音视频通话,延迟仅 200 毫秒
图:wan-streamer.com

过去我们和 AI 语音对话,最尴尬的瞬间不是它答不上来,而是那种机械的等待感。更别说开着摄像头视频了,屏幕里的数字人往往像个反应慢半拍的木偶,你讲完一段,它卡顿几秒才开始动嘴皮子。

阿里巴巴公布了一个叫 Wan Streamer 的端到端交互模型。它要做的事很直接:把 AI 变成一个能实时和你开视频电话的虚拟人,不仅能听、能看,还能在说话的同时继续观察你。

告别拼凑,把音视频塞进一个模型里

市面上现有的实时交互系统,大多是把几个现成模块强行拼在一起。先用语音识别把你说的话转成文字,扔给大语言模型想答案,再用文本转语音生成声音,最后拿动画模块驱动画面。

这种级联拼接的做法,每一道工序都在堆叠延迟。更要命的是,各个模块之间容易脱节,面部表情和说话声音往往对不齐,也谈不上自然的眼神交流。

Wan Streamer 走了一条彻底不同的路。它用单一的 Transformer 模型,同时对视觉、音频和文本的输入与输出进行建模。说白了,三种模态的 token 在同一条序列里交错流动,全部交给一套因果注意力机制来调度。

整个技术栈从底层编码器到解码器都围绕流式传输重构,流式单元最短可以切到 160 毫秒。它以每秒 25 帧运行,模型端的响应延迟被压到了 200 毫秒左右。即使加上 350 毫秒的双向网络延迟,总交互耗时也就 550 毫秒左右,稳稳落在 1 秒以内。

更关键的是它支持全双工通信。换句话说,AI 不需要等你彻底闭嘴才开始推理。在你说话的同时,它就已经在看、在听;而在它回应你的时候,如果你突然打断或做个手势,它也能当场感知并停下来。

表情自然,但目前还是「低清试验品」

从官方放出的未剪辑演示来看,虚拟人的表现确实挺生动。在解谜题、闲聊疲惫状态或者讨论刷手机习惯时,AI 不仅能跟上对话逻辑,还会做出自然的眨眼、拨头发和挥手动作。

不过,现在想上手体验可能还得等等。目前公开的 Wan Streamer v0.1 只是个技术验证版本,画面分辨率仅有 192p,满屏都是肉眼可见的马赛克。官方展示的内容也是本地录屏和预录样本,并没有开放线上的实时交互入口。

阿里团队对此的解释是,先用低分辨率证明端到端方案跑得通,后续扩展到更高分辨率在工程上相对容易。

为什么重要

对普通用户来说,现在的 Wan Streamer 还不算一个立即可用的成品,192p 的画质也没法直接当成日常陪伴工具。但它展示了一种全新交互形态的可能性:未来的 AI 伴侣不再是一个冷冰冰的语音悬浮窗,而是一个真正看得见你挑眉、叹气并即时做出反应的虚拟朋友。

对行业而言,这项技术最大的冲击在于撕碎了过去「拼装流水线」的行业惯性。以前做数字人客服和虚拟主播的公司,精力全花在打磨 ASR、TTS 和渲染引擎的接口上。一旦端到端多模态大模型证明自己能搞定亚秒级的音视频流,这些中间层的独立工具很可能会失去生存空间。

我们认为阿里这一步走得相当坚决,直接攻坚最难的端到端全双工架构。不过隐患也很现实:随着分辨率从 192p 提升到实用级别的 720p 甚至 1080p,单路视频并发所消耗的算力成本将成倍飙升。如何把每秒 25 帧的流式生成成本压到普通服务器能承受的区间,才是它从实验室走向落地必须迈过的坎。

来源 (1)

  1. [1]

每日 AI 内容精选