OpenAI、「モデルの処理能力上限」エラーを大幅削減　過負荷時の自動リトライに対応

ChatGPT を日常的に使っている人なら、「Selected model is at capacity. Please try a different model」というエラーで作業を中断された経験が一度はあるはずです。

OpenAI のエンジニアである Tibo 氏は、このエラーの発生頻度を大幅に減らすため、インフラの改修と追加の計算リソースの投入を行ったと明かしました。

エラー画面で止めず、裏で自動再試行する仕組みへ

リソースの増強に加えて、リクエストの処理方法自体も改善されました。

これまではサーバー容量が上限に達するとプロンプトがブロックされていましたが、今後は一時的に詰まってもバックグラウンドで自動的に再試行し、そのまま生成を継続する仕様に変更されています。

Tibo 氏は、もし通常利用のなかで依然としてこの警告が出る場合は、調査を進めるためフィードバックを送ってほしいと呼びかけています。

なぜ重要か

派手な新機能ではありませんが、作業の継続性を守るという意味で非常に実用的な改善だと私たちは評価しています。特に長文作成やコード生成の途中でリクエストが遮断されるストレスは大きく、自動再試行の恩恵は小さくありません。

OpenAI がモデルの性能競争だけでなく、足元の可用性向上にも力を入れている様子がうかがえます。エラーをユーザーに突きつけて別モデルを選ばせるのではなく、裏で静かにリトライして完了させる設計は、実務ツールとして確実に正しい方向です。