OpenAI、分岐処理に特化した「Decisions API」を一般提供

AIエージェントを作ったことがある人なら、単なる分岐処理や画像の破損判定のためだけに巨大なモデルを呼び出し、数秒待たされた経験があるはずです。しかも、その不要な返答トークンにまでコストを支払うことになります。

OpenAIはこの無駄を解消しにきました。同社はGPT-6 Lunaをベースにした「Decisions API」の一般提供を開始しました。あらかじめ選択肢が決まっている軽量な判定に特化しており、通常のResponses API経由でGPT-6 Lunaを叩く場合に比べて最大10倍高速に動作します。

出力トークン無料という大胆な設計

使い方は極めてシンプルです。開発者は質問と許容される回答を定義し、コンテキストとしてテキストや画像、ネイティブJSONを渡すだけです。

返ってくる結果は3種類に絞られています。条件が真である確率、事前定義された選択肢、または重み付け平均によるスコアです。1回のリクエストで投げられる質問数はこれまでの2倍となる最大400問に拡大されました。

料金体系も強烈です。入力トークンは100万トークンあたり0.10ドルで、キャッシュが効けば0.01ドルまで下がります。そして何より、出力トークンに対する課金は一切ありません。

あわせてリアルタイム音声機能のGPT-Liveともネイティブ統合されました。会話の流れを止めずにアバターの表情をミリ秒単位で切り替えたり、サポート窓口で質問を深掘りすべきか即座に判断させたりできます。米国とEUでの推論データ常駐や、アジア地域でのキャパシティ増強も行われています。

なぜ重要か

私たちは、このDecisions APIをOpenAIによる非常にクレバーな開発者向け施策だと評価しています。

実務でエージェントを組む際、ボトルネックになるのは高度な推論ではなく、リクエストの振り分けや入力分類といった細かな判定の遅延です。これをGPT-6 Luna水準の精度を保ったまま低遅延かつ低価格で処理できるなら、アプリ全体の体感速度は激変します。

出力課金をゼロにした点も業界へ強いインパクトを与えます。構造化された単純な判定にテキスト生成課金を課す摩擦をなくすことで、競合が提供する小型モデルを自前で運用するコスト優位性を奪いにいっています。

一方で、アプリの根幹となるルーティング処理をこの専用エンドポイントに依存させると、OpenAIエコシステムからの脱却が難しくなるという囲い込みのリスクは残ります。とはいえ、エージェントの分岐処理の重さに悩んでいる現場なら、今すぐ試す価値は十分にあります。