Anthropicが数週間以内に新モデル発表か、推論と高速応答を両立

最近のAI界隈では、即答型の通常モデルと、じっくり思考する推論モデルの棲み分けが進んでいました。しかし、Anthropicはその境界線をなくそうとしているようです。

The Informationの報道によると、Anthropicは数週間以内に次期主力モデルをリリースする見通しです。このモデルはディープな推論と高速な応答を切り替えられるハイブリッド設計になっていると伝えられています。

推論コストをスライダーで手動調整

推論能力をフル稼働させると計算リソースを大量に消費するため、開発者がコストを管理できるスライディングスケール機能もあわせて提供される見込みです。

性能面では、一部のコーディングタスクにおいてOpenAIのo3-mini-highを上回り、大規模なコードベースの解析やビジネス向けベンチマークで高い実力を発揮するとされています。

同社CEOのDario Amodei氏は先日のTechCrunchによるインタビューで、通常モデルと推論モデルを別物として扱う風潮に疑問を呈し、独自の差別化されたアプローチを準備していることを示唆していました。

なぜ重要か

開発者にとって、リクエスト内容に応じて通常モデルと推論モデルを振り分けるルーティング処理は面倒な作業でした。1つのモデルで深度を調整できるなら、システム構成は大幅にシンプルになります。

OpenAIが切り開いた「通常版とoシリーズの二本立て」という常識に対し、Anthropicがハイブリッド型という対抗軸を打ち込んできた格好です。特に巨大なコード資産を抱える企業には強い訴求力を持つでしょう。

もっとも、コスト調整をスライダーという自由度に委ねるやり方は、現場にチューニングの手間を強いる側面もあります。実際の課金体系がどれだけ予測しやすい設計になっているかが普及の鍵になりそうです。