Edge0 开源 Audio8-ASR-Infinite：显存恒定，中英文 7x24 小时流式转写

Edge0 推出的 Audio8-ASR-Infinite 是一款原生流式语音识别模型，专门用来解决中英文长音频转写的显存爆炸和时间漂移问题。

它能在转写延迟控制在 240 到 560 毫秒的同时，支持 7x24 小时不间断监听，哪怕连续跑几天几夜，显存和延迟都保持恒定。

它是怎么做到不卡不崩的

传统的流式识别模型跑久了，KV 缓存会无限膨胀，要么显存撑爆，要么解码越来越慢。Audio8 采用了一套 30 秒窗口的滚动滑动缓存机制，配合精确的 RoPE 重定基底技术，让模型始终只保留有效上下文。

它的解码节奏也很灵活，支持 80、120 和 160 毫秒三种音频时钟步长，最高每秒可以做 12.5 次解码决策。你可以根据自己的硬件算力，在感知粒度和系统开销之间自由权衡。

模型还内置了语义语音活动检测，也就是语义 VAD。它不像传统声学 VAD 那样只看音量，而是能结合上下文语义，精准分辨说话人的真实停顿、结巴犹豫还是彻底讲完了。

架构与实测表现

Audio8 的底层继承了 Voxtral 实时音频架构与 DSM 风格流式设计。它的音频特征提取层基于 Voxtral Realtime 4B，文本解码端则使用了 Qwen2.5-3B-Instruct，词表大小为 151936。

整个模型采用 bfloat16 精度，主权重文件约为 8.17 GB，并附带了语义 VAD 检测头。

在 80 毫秒时钟、480 毫秒目标延迟的实测配置下，它在中文数据集上的表现尤为突出：aishell1 测试集的字错误率仅为 1.750%，aishell4 为 2.893%，大幅领先同等延迟下的 Voxtral 和 Nemotron 模型。在英文 Librispeech 测试中，test.clean 的词错误率为 3.042%，整体平均错误率为 3.623%。

怎么跑起来

模型权重和推理代码已经全部开源在 Hugging Face，支持直接通过 Transformers 的 pipeline 接口加载，只需开启 trust_remote_code 即可。

对于生产环境的长音频部署，官方推荐使用他们定制的 vLLM 和 Docker Compose 方案。拉取代码后配置好权重路径，执行 docker compose up 就能拉起服务，本地自带了一个网页端演示界面和 WebSocket 实时客户端。

当前放出的属于预览版本，官方路线图显示，后续还会在相同的帧网格上扩展非转写类的实时语义感知能力。

为什么重要

对于做实时直播字幕、电话客服质检、或者在为 AI Agent 搭建低延迟语音前端的开发者来说，这个模型非常值得一试。以前搭建 24 小时不间断的听写系统，往往需要外部切片分段，容易在切分处丢字，Audio8 从底层架构上省掉了这套复杂的拼接工程。

我们认为它把 Voxtral 音频塔和 Qwen2.5 解码器拼合的思路相当务实，兼顾了中文理解和实时吞吐。唯一的门槛在于模型体积在 8GB 左右，边缘小设备吃力，但在一张中端单卡上跑起来完全没有压力。