Edge0 開源 Audio8-ASR-Infinite：視訊記憶體恆定，中英文 7x24 小時流式轉寫

Edge0 推出的 Audio8-ASR-Infinite 是一款原生流式語音識別模型，專門用來解決中英文長音訊轉寫的視訊記憶體爆炸和時間漂移問題。

它能在轉寫延遲控制在 240 到 560 毫秒的同時，支援 7x24 小時不間斷監聽，哪怕連續跑幾天幾夜，視訊記憶體和延遲都保持恆定。

它是怎麼做到不卡不崩的

傳統的流式識別模型跑久了，KV 快取會無限膨脹，要麼視訊記憶體撐爆，要麼解碼越來越慢。Audio8 採用了一套 30 秒視窗的滾動滑動快取機制，配合精確的 RoPE 重定基底技術，讓模型始終只保留有效上下文。

它的解碼節奏也很靈活，支援 80、120 和 160 毫秒三種音訊時鐘步長，最高每秒可以做 12.5 次解碼決策。你可以根據自己的硬體算力，在感知粒度和系統開銷之間自由權衡。

模型還內建了語義語音活動檢測，也就是語義 VAD。它不像傳統聲學 VAD 那樣只看音量，而是能結合上下文語義，精準分辨說話人的真實停頓、結巴猶豫還是徹底講完了。

架構與實測表現

Audio8 的底層繼承了 Voxtral 即時音訊架構與 DSM 風格流式設計。它的音訊特徵提取層基於 Voxtral Realtime 4B，文本解碼端則使用了 Qwen2.5-3B-Instruct，詞表大小為 151936。

整個模型採用 bfloat16 精度，主權重檔案約為 8.17 GB，並附帶了語義 VAD 檢測頭。

在 80 毫秒時鐘、480 毫秒目標延遲的實測配置下，它在中文資料集上的表現尤為突出：aishell1 測試集的字錯誤率僅為 1.750%，aishell4 為 2.893%，大幅領先同等延遲下的 Voxtral 和 Nemotron 模型。在英文 Librispeech 測試中，test.clean 的詞錯誤率為 3.042%，整體平均錯誤率為 3.623%。

怎麼跑起來

模型權重和推理程式碼已經全部開源在 Hugging Face，支援直接通過 Transformers 的 pipeline 介面載入，只需開啟 trust_remote_code 即可。

對於生產環境的長音訊部署，官方推薦使用他們定製的 vLLM 和 Docker Compose 方案。拉取程式碼後配置好權重路徑，執行 docker compose up 就能拉起服務，本地自帶了一個網頁端演示介面和 WebSocket 即時客戶端。

當前放出的屬於預覽版本，官方路線圖顯示，後續還會在相同的幀網格上擴充套件非轉寫類的即時語義感知能力。

為什麼重要

對於做即時直播字幕、電話客服質檢、或者在為 AI Agent 搭建低延遲語音前端的開發者來說，這個模型非常值得一試。以前搭建 24 小時不間斷的聽寫系統，往往需要外部切片分段，容易在切分處丟字，Audio8 從底層架構上省掉了這套複雜的拼接工程。

我們認為它把 Voxtral 音訊塔和 Qwen2.5 解碼器拼合的思路相當務實，兼顧了中文理解和即時吞吐。唯一的門檻在於模型體積在 8GB 左右，邊緣小裝置吃力，但在一張中端單卡上跑起來完全沒有壓力。