Edge0が「Audio8-ASR-Infinite」をオープンソース化：メモリ一定で24時間ストリーミング文字起こし

Edge0が公開した「Audio8-ASR-Infinite」は、中国語と英語の長時間のストリーミング音声認識に特化したオープンソースモデルです。

240〜560ミリ秒という低遅延を維持しながら、24時間365日ノンストップで音声を書き起こしても、メモリ使用量と処理遅延が一切増加しない設計になっています。

メモリと遅延を一定に保つ仕組み

従来のストリーミング音声認識では、長時間の音声を流し続けるとキャッシュが肥大化し、メモリ不足に陥ったり認識位置がずれたりする課題がありました。Audio8は、30秒のローリングKVキャッシュと正確なRoPEリベース機構を採用することで、この問題を解決しています。

処理の基本単位となるオーディオクロックは80、120、160ミリ秒から選択可能で、最速の80ミリ秒設定では毎秒12.5回のデコード判定を行います。これにより、精度と計算リソースのトレードオフを柔軟に調整できます。

さらに、文脈を考慮するセマンティックVAD（発話区間検出）を内蔵しています。音量だけで判断する従来の方式と異なり、言いよどみや考え中の間、発話終了を正確に見分けることが可能です。

モデル構成と認識精度

モデル構成は、Voxtral Realtime 4Bをベースにしたオーディオタワーと、Qwen2.5-3B-Instructを採用したテキストデコーダを組み合わせています。

bfloat16形式で提供され、モデルの総容量は約8.17GBです。

80ミリ秒フレーム、遅延480ミリ秒の設定で行われた評価では、中国語のaishell1テストセットで文字誤り率（CER）1.750％、aishell4で2.893％を記録しました。同条件のVoxtralやNemotronと比較しても大幅に低い誤り率です。英語のLibrispeech test.cleanでも単語誤り率（WER）3.042％をマークし、全体の平均誤り率は3.623％にとどまっています。

動かし方と試用方法

重みファイルはHugging Faceからダウンロード可能で、Transformersのpipelineを介して直接呼び出すことができます。実行時にはtrust_remote_codeの指定が必要です。

24時間連続運用の環境向けには、専用に調整されたvLLMとDocker Composeの設定が用意されています。立ち上げるだけでWebクライアント画面とWebSocketエンドポイントが有効になります。

現在はプレビュー版の位置づけで、今後は同じ音響フレームの仕組みを使って、文字起こし以外のリアルタイム意味認識機能も追加される予定です。

なぜ重要か

ライブ配信のリアルタイム字幕や、低遅延が求められる音声対話AIエージェントを自前で構築したい開発者にとって、すぐに実戦投入できる有力な選択肢です。音声を細かく手動分割して後からつなぎ合わせるような泥臭いパイプラインを組む必要がなくなります。

Voxtralの音響処理とQwen2.5の言語能力を組み合わせた構成は、特に中英バイリンガル環境において実用的です。約8GBのVRAMを確保できる環境であれば、長時間の安定稼働を前提とした音声パイプラインの標準ツールになり得ます。