阿里釋出 Wan Streamer:單一模型即時音視訊通話,延遲僅 200 毫秒
阿里巴巴公佈端到端互動模型 Wan Streamer,讓 AI 在視訊通話中即時看、聽並同步回應。它用單一 Transformer 統一處理音影片和文本,支援全雙工通訊,模型端延遲約 200 毫秒。目前 v0.1 仍為 192p 概念驗證,未開放即時體驗。

過去我們和 AI 語音對話,最尷尬的瞬間不是它答不上來,而是那種機械的等待感。更別說開著攝像頭影片了,螢幕裡的數字人往往像個反應慢半拍的木偶,你講完一段,它卡頓幾秒才開始動嘴皮子。
阿里巴巴公佈了一個叫 Wan Streamer 的端到端互動模型。它要做的事很直接:把 AI 變成一個能即時和你開影片電話的虛擬人,不僅能聽、能看,還能在說話的同時繼續觀察你。
告別拼湊,把音影片塞進一個模型裡
市面上現有的即時互動系統,大多是把幾個現成模組強行拼在一起。先用語音識別把你說的話轉成文字,扔給大語言模型想答案,再用文本轉語音生成聲音,最後拿動畫模組驅動畫面。
這種級聯拼接的做法,每一道工序都在堆疊延遲。更要命的是,各個模組之間容易脫節,面部表情和說話聲音往往對不齊,也談不上自然的眼神交流。
Wan Streamer 走了一條徹底不同的路。它用單一的 Transformer 模型,同時對視覺、音訊和文本的輸入與輸出進行建模。說白了,三種模態的 token 在同一條序列裡交錯流動,全部交給一套因果注意力機制來排程。
整個技術棧從底層編碼器到解碼器都圍繞流式傳輸重構,流式單元最短可以切到 160 毫秒。它以每秒 25 幀執行,模型端的響應延遲被壓到了 200 毫秒左右。即使加上 350 毫秒的雙向網路延遲,總互動耗時也就 550 毫秒左右,穩穩落在 1 秒以內。
更關鍵的是它支援全雙工通訊。換句話說,AI 不需要等你徹底閉嘴才開始推理。在你說話的同時,它就已經在看、在聽;而在它回應你的時候,如果你突然打斷或做個手勢,它也能當場感知並停下來。
表情自然,但目前還是「低清試驗品」
從官方放出的未剪輯演示來看,虛擬人的表現確實挺生動。在解謎題、閒聊疲憊狀態或者討論刷手機習慣時,AI 不僅能跟上對話邏輯,還會做出自然的眨眼、撥頭髮和揮手動作。
不過,現在想上手體驗可能還得等等。目前公開的 Wan Streamer v0.1 只是個技術驗證版本,畫面解析度僅有 192p,滿屏都是肉眼可見的馬賽克。官方展示的內容也是本地錄屏和預錄樣本,並沒有開放線上的即時互動入口。
阿里團隊對此的解釋是,先用低解析度證明端到端方案跑得通,後續擴充套件到更高解析度在工程上相對容易。
為什麼重要
對普通使用者來說,現在的 Wan Streamer 還不算一個立即可用的成品,192p 的畫質也沒法直接當成日常陪伴工具。但它展示了一種全新互動形態的可能性:未來的 AI 伴侶不再是一個冷冰冰的語音懸浮窗,而是一個真正看得見你挑眉、嘆氣並即時做出反應的虛擬朋友。
對行業而言,這項技術最大的衝擊在於撕碎了過去「拼裝流水線」的行業慣性。以前做數字人客服和虛擬主播的公司,精力全花在打磨 ASR、TTS 和渲染引擎的介面上。一旦端到端多模態大模型證明自己能搞定亞秒級的音影片流,這些中間層的獨立工具很可能會失去生存空間。
我們認為阿里這一步走得相當堅決,直接攻堅最難的端到端全雙工架構。不過隱患也很現實:隨著解析度從 192p 提升到實用級別的 720p 甚至 1080p,單路影片併發所消耗的算力成本將成倍飆升。如何把每秒 25 幀的流式生成成本壓到普通伺服器能承受的區間,才是它從實驗室走向落地必須邁過的坎。
來源 (1)
- wan-streamer.com(在新分頁開啟)原文wan-streamer.com