跳到正文
IFAI

开源项目

网易有道开源流式语音模型 R2T2:延迟低至 200ms,只追加不改字

首次发布 传播指数 48

网易有道开源实时语音识别模型 Confucius4-R2T2。它基于 Qwen3-ASR 开发,平均延迟仅 200 至 600 毫秒,且采用「只追加不回改」模式,避免了实时字幕反复闪烁跳字。模型支持 vLLM 高吞吐推理,中英双语精度逼近离线水平。

网易有道开源流式语音模型 R2T2:延迟低至 200ms,只追加不改字
图:huggingface.co

Confucius4-R2T2(简称 R2T2)是网易有道开源的实时流式语音识别模型,能把麦克风里的声音几乎无延迟地转成文字。如果你受够了实时字幕在屏幕上反复跳字、回退改写,这个项目专门就是为了解决这个问题来的。

它能做到什么

R2T2 最大的特色是「只追加不改字」(append-only)。以往不少流式模型会先猜一个词,等听到后半句发现不对再撤回修改,这会导致屏幕上的字幕疯狂闪烁,接在后面的大模型 Agent 也会拿到混乱的上下文。

R2T2 吐出来的字一旦输出就永久固定,绝不回改。它的平均延迟在 200 到 600 毫秒之间,解码块大小可以在 80 毫秒到 2 秒之间自由调节,默认以 160 毫秒运行。

更难得的是,很多流式模型为了赶速度会牺牲识别率,但 R2T2 在保留极低延迟的同时,识别准确率几乎没有向离线转录妥协。

怎么做到的与实测表现

该模型基于阿里开源的 Qwen3-ASR 打造。网易有道在训练中加入了稳定前缀数据、强制时间对齐和词元级音频切分,并结合了一套最长稳定前缀(LSP)学习范式。

简单来说,就是让模型自己动态判断:手头的音频到底足不足以安全输出确定的文字,还是需要再等一小截后文语境。这样既保证了已输出部分不被推翻,又为后续预测提供了高质量上下文。

在英文词错误率(WER)和中文字错误率(CER)的基准测试中,R2T2 在主流开源模型(包括 WhisperRT、Nemotron、Voxtral)中拿下了最低的错误率和更优的延迟表现,在对比测试中也展现出了逼近 GPT-Live-Transcribe 等专有商业系统的水准。此外,模型原生支持上下文和热词提示,主要针对中英双语优化,同时也支持更广泛的语种。

怎么跑起来

它的部署门槛非常低。模型权重和运行开销只有大约 4GB,绝大多数消费级显卡都能直接装下。

推理端支持高吞吐的 vLLM 和 Hugging Face transformers 两种后端。官方推荐使用预装好环境的 Docker 镜像,挂载权重后一行脚本就能跑通。

如果你习惯本地开发,用 uv 或 Conda 配合 Python 3.12 也能快速配置。官方仓库里甚至直接自带了一个 WebSocket 实时服务端和客户端示例,配合语音活动检测(VAD)模块,拉下来就能搭出一套支持多客户端并发的转录服务。

为什么重要

如果你正在开发实时双语字幕、会议同传记录,或者打算给大模型智能体接上一双低延迟的耳朵,R2T2 非常值得你今天就下载试试。过去做低延迟语音转写,要么忍受字幕反复跳字对下游造成的干扰,要么花大钱调用商业接口;R2T2 把这两头的痛点都抹平了。

我们认为,网易有道把「稳定前缀」做成训练目标是非常聪明的做法,它把语音识别真正变成了下游程序可以直接消费的稳定事件流。不过目前官方的技术报告还没有正式上线,在复杂多语种和嘈杂环境下的泛化能力,也还需要在实际业务场景里继续观察。

来源 (1)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co

每日 AI 内容精选