Perplexityが新Sonar公開：毎秒1200トークンで即座に回答生成

AI 検索を使っていて一番もどかしいのは、回答が一文字ずつゆっくり画面に打ち出されるのを待つ時間かもしれません。

Perplexity は、独自チューニングモデル「Sonar」の最新版をリリースしました。Meta のオープンソースモデル「Llama 3.3 70B」をベースに、検索結果に基づいた正確性と読みやすい文章構成に特化して追加訓練されたモデルです。

最大のトピックは、Cerebras の専用推論インフラを採用したことで、毎秒 1200 トークンという桁外れの生成速度を実現した点です。

1 秒間に 1200 トークンの衝撃

この速度は、同じく高速を売りにする Gemini 2.0 Flash と比較しても約 10 倍速い計算になります。エンターキーを押した瞬間に、まとまった回答が画面全体に広がる感覚です。

速さだけでなく回答の質も引き上げられています。Perplexity が実施したオンライン A/B テストによると、ユーザー満足度において同クラスの GPT-4o mini や Claude 3.5 Haiku を大きく上回りました。

さらに、Claude 3.5 Sonnet を超え、最上位クラスである GPT-4o に迫る評価を獲得したとしています。指示追従性を測る IFEval や幅広い知識を問う MMLU などの標準ベンチマークでも、同規模モデルの中でトップクラスのスコアを記録しました。

Sonar は現在、Perplexity Pro ユーザー向けに設定画面からデフォルトモデルとして指定可能になっています。API 経由でも提供が始まっていますが、API 側の Cerebras インフラ対応は近日中に行われる予定です。

なぜ重要か

日頃から情報収集や調査に Perplexity を使っている人なら、今すぐ Sonar をデフォルトに切り替えて試す価値があります。これまでの汎用モデル特有の待ち時間が消え、思考を止めずに調べ物を進められる体験は非常に快適です。

業界全体にとっても、今回の動きは大きな意味を持ちます。自前でゼロから巨大な基盤モデルを事前学習するのではなく、優れたオープンモデルを自社の検索用途に特化してファインチューニングし、Cerebras のような推論特化ハードウェアと組み合わせる。このアプローチによって、圧倒的に低いコストとスピードで商用最上位モデルに匹敵する体験を作り出せることが証明されました。

私たちは、特化型 AI サービスが生き残るための極めて賢い戦い方だと考えています。もちろん、複雑なプログラミングや深い多段階の論理推論においては、依然として本家のフロンティアモデルに分があります。しかし、「ウェブ情報を探して分かりやすく要約する」という検索本来の用途に限れば、速さと正確さを兼ね備えた Sonar は競合にとって大きな脅威になるはずです。