Inception Labs、音声エージェント向けdLLM「Mercury Voice」を正式提供開始

電話口のAIエージェントに話しかけた後、2秒から3秒ほど返答がない気まずい沈黙を経験したことがある人は多いはずです。自然な会話を成立させるには、発話が終わってから500ミリ秒以内に最初の言葉を返し始めなければなりません。

Inception Labsは、リアルタイム音声エージェントに特化した拡散型大規模言語モデル（diffusion LLM）「Mercury Voice」のエンタープライズ向け一般提供を開始しました。2週間前にMercury 2.5とともにプレビュー公開されていたモデルです。

拡散アーキテクチャでTTFAT中央値320ミリ秒を実現

Mercury Voiceの最大の特徴は、モデルが思考を終えて最初の単語を出力するまでの時間（TTFAT）が中央値で320ミリ秒という圧倒的な低遅延です。これは推論なしのGPT-6 Lunaと比較して約5.9倍の高速化にあたります。

音声対話ではロングテールの遅延が対話破綻につながりますが、Mercury Voiceはp95遅延でも750ミリ秒にとどまります。128Kのコンテキスト長と最大50Kの出力トークンに対応し、推論の強度（reasoning effort）を低・中・高の3段階から選べます。

速さだけでなく性能面でも高評価を維持しています。τ³-bench（通信、小売、航空）やIFBench、BFCL v4を含む複合ベンチマークにおいて、Gemma 4 31B、GPT-6 Luna、GLM-5.3-Flash、Gemini 3.5 Flash-Lite、Qwen3.5-397Bを上回る精度を記録しました。

すでに導入企業でも成果が出ています。Audivi AIはドライブスルーの自動注文と追加提案に活用しており、金融機関向け音声エージェントのAlturはパイプラインのボトルネックが解消されたと述べています。またOpenCallの本番環境では中央値レイテンシが約170ミリ秒まで短縮されました。

提供形態はOpenAI API互換のエンドポイントとなっており、LiveKitやPipecat、Vapi、Retellといった主要な音声フレームワークにそのまま組み込めます。価格は通常100万入力トークンあたり0.40ドル、出力1.50ドルですが、ローンチ記念として半額の入力0.20ドル、出力0.75ドルで提供されます。一般的な音声通話換算で1分あたり約0.009ドルとなり、GPT-4.1の約0.045ドルと比べて約5分の1に抑えられます。

なぜ重要か

音声エージェントの開発現場では長年、頭は良いが返答が遅いモデルか、返答は速いが複雑な指示に従えないモデルかの二者択一を迫られてきました。

Mercury Voiceの興味深い点は、自己回帰型ではなく拡散型LLMを採用したことで、1トークンずつ順番に生成していく物理的な遅延の壁を崩したところにあります。思考力やツール呼び出しの精度を落とさずに500ミリ秒の壁を突破できたのは大きな前進と言えます。

ドライブスルーやコールセンターなど、会話のテンポと確実なタスク実行が求められる事業者にとって、いま試す価値は十分にあります。1分あたり1セントを切る料金設定も、大規模導入の後押しになるはずです。

もっとも、音声システム全体の応答時間は文字起こし（ASR）や音声合成（TTS）の速度にも左右されるため、LLM単体だけで即座に体験全体が激変するわけではありません。それでも最大の障壁だったLLMの思考遅延が取り払われたことで、今後の音声AI対話の標準水準は確実に引き上げられると考えられます。