本文へスキップ
IFAI

AIツール

OpenAI、CodexとSora向け新アクセス基盤を公開:制限到達後もクレジットで作業継続

公開 拡散指数 35

OpenAIはCodexとSora向けに開発したリアルタイムアクセスエンジンを発表した。利用上限に達してもリクエストを遮断せず、購入済みクレジットからシームレスに引き落として処理を続行できる。利用記録と課金処理を分離した自社製システムにより、二重請求を防ぎつつユーザーの作業の中断を防ぐ狙い。

OpenAI、CodexとSora向け新アクセス基盤を公開:制限到達後もクレジットで作業継続
画像:openai.com

Codexでコーディングに熱中している最中や、Soraで動画生成のアイデアを試しているときに、突然「利用上限に達しました」と遮断されるほど創作意欲を削がれる瞬間はありません。

OpenAIの技術スタッフであるJonah Cohen氏は、CodexとSora向けに開発した新しいアクセス制御システムの仕組みを公開しました。上限に達したユーザーを単に締め出すのではなく、購入済みのクレジットを使ってリアルタイムかつシームレスに利用を継続できるアクセスエンジンを内製した形です。

利用判断をウォーターフォール化する

これまでのアクセス制御は、上限を設けて待たせるか、最初から従量課金にして使った分だけ請求するかの二者択一になりがちでした。しかし、上限をただ引き上げればサーバー容量が逼迫し、既存の外部課金プラットフォームでは数ミリ秒単位のリアルタイム判断に追いつけません。

そこでOpenAIは、アクセス制御をウォーターフォール構造へと再設計しました。「実行可能か」を二者択一で問うのではなく、「どれだけ許可され、どの枠から消費するか」を1回のリクエスト内で瞬時に判断します。無料枠、レート制限、クレジット残高、企業契約が1つの評価スタックに統合されているため、ユーザーは制限を超えても作業を止めることなくクレジット消費へ移行できます。

厳密な監査性と自動返金

この基盤は、エンタープライズ顧客が求める「請求の正しさ」を証明できるように作られています。実際の利用ログ、課金イベント、残高更新という3つの独立したデータセットを連動させ、ネットワーク障害などで再試行が発生しても二重課金が絶対に起きない冪等性を備えています。

残高更新は厳密な監査証跡を残すため、ごくわずかな遅延を許容する非同期処理で行われます。この遅延によってクレジット残高を超過して消費された場合、システムはユーザーを遮断するのではなく自動的に超過分を返金する仕様を選びました。

なぜ重要か

ヘビーユーザーや開発者にとって、思考を強制的に中断されるストレスがなくなるメリットは絶大です。Soraの生成回数を気にしながら作業したり、Codexの制限解除を待つために別のアカウントを使い分けたりする必要はもうありません。

私たちは、OpenAIがアクセス制御や課金基盤を「プロダクトの使い勝手を左右する重要機能」としてゼロから内製した点を高く評価しています。高負荷な生成AIサービスにおいて、アクセス制限の管理は単なるバックエンドの集計作業ではなく、ユーザー体験そのものだからです。固定枠と従量課金を違和感なくつなぐこのハイブリッド設計は、Anthropicなどの競合にも同様の仕組みを導入させる契機になるはずです。

一方で懸念されるのは、制限を意識させない設計ゆえに、作業に没頭するあまりクレジットを想定以上に早く使い切ってしまうリスクです。快適な連続体験を損なわずに、ユーザーへいかに無理なくコストを自覚させるかが、今後のUIにおける課題になりそうです。

情報源 (1)

  1. [1]
    openai.com(新しいタブで開きます)原文openai.com

毎日のAIピックアップ