Inceptionが拡散LLM「Mercury 3」公開、秒速1000トークン超でGPT-6 Lunaに対抗

AIスタートアップのInceptionは拡散モデルベースの大規模言語モデル「Mercury 3」を発表しました。NVIDIA製GPU環境において毎秒1068トークンを出力し、OpenAIのGPT-6 LunaやAnthropicのClaude Haiku 5.5と比べて4〜8倍の生成速度を誇るとしています。

従来の自己回帰型モデルが1単語ずつ順番に出力するのに対し、拡散モデルは複数の単語を同時に粗削りし、それを並列で段階的に修正して完成させます。これにより、圧倒的な低遅延生成を実現しました。

パラメータ40倍増でも速度は維持

Mercury 3は初代Mercury 1と比較してパラメータ規模を40倍以上に拡張し、標準ベンチマーク上の知能指標は3倍に向上したとされています。コンテキストウィンドウもMercury 2.5の26万トークンから100万トークンへと大幅に拡大しました。

共同創業者のStefano Ermon氏は、拡散モデルのスケール拡大を阻む要因は計算資源とデータであり、アルゴリズム上の根本的な障壁はないと述べており、すでに後継モデルの学習が進んでいることも明かしています。

ただし、外部ベンチマークの結果を精査すると完全な独走状態というわけではありません。中程度の推論タスクでは、LunaやHaikuが依然として上回る項目も見られます。

音声アシスタントやブラウザ操作エージェントへ導入

この驚異的な速度は、応答遅延がユーザー体験を直撃する領域で先行活用されています。

TinyFish AIによる実環境Web操作ベンチマーク「Mind2Web」の50タスクにおいて、Mercury 3は50%を完遂し、GPT-6.1-Solを有意に上回る成功率を示しました。消費トークン数やステップ数は同等ながら、運用コストを大幅に削減できたと報告されています。

スマートグラス向け検索を手がけるOcten AIでは、検索自体が80ミリ秒で終わるのに対しモデル生成がボトルネックになっていたところ、Mercury 3の採用で生成時間の中央値を0.9秒、エンドツーエンド応答時間を2.2秒まで短縮しました。このほかオンライン学習のRevisionDojoや法規制対応カスタマーサポートのLorikeetでも採用が進んでいます。

通常価格は入力100万トークンあたり0.20ドル、出力0.70ドルですが、ローンチ記念として50%割引（入力0.10ドル、出力0.35ドル）が適用され、キャッシュ機能による割引も用意されています。

なぜ重要か

リアルタイムな音声対話サービスや、画面操作を繰り返すブラウザエージェントを開発している現場なら、今すぐ試す価値が十分にあります。複数回の推論を連鎖させるエージェントでは、1ステップごとのコンマ数秒の遅れが積み重なって全体の操作感を台無しにしてしまいます。OpenAI互換APIが用意されており、既存システムへの差し替えが容易な点も実用的です。

業界全体で見れば、競争の軸が知能の高さから「超高速応答」へと移りつつあることが分かります。OpenAIがCodex等で毎秒300トークンを出す「GPT-6 Astra Ultrafast」を投入し、Cerebrasと750MW規模の提携を結ぶなどハードウェアや専用インフラで速度向上を図る中、Inceptionはモデル構造そのものを刷新するアプローチで勝負を挑んでいます。

スピード重視の小型モデル市場に照準を絞った戦略は非常に巧みですが、懸念もあります。複雑な論理展開が必要な場面で自己回帰型と同等の信頼性を維持できるかは、まだ実戦での検証が不足しています。また、API通信や外部ツール呼び出しによる遅延が残る以上、テキスト生成速度の向上だけでシステム全体の課題がすべて解決するわけではない点には注意が必要です。