本文へスキップ
IFAI

AIツール

OpenAIがエンタープライズAPIを強化:半額のBatch APIや検索1万件対応

公開 拡散指数 42

OpenAIはAPI顧客向けにエンタープライズ機能を大幅拡充した。24時間以内に非同期処理する新機能「Batch API」は通常料金の半額で利用可能。さらにAssistants APIのファイル検索上限が従来の20件から500倍の1万件へ拡大され、ストリーミング応答やプロジェクト単位の権限管理にも対応した。

OpenAIがエンタープライズAPIを強化:半額のBatch APIや検索1万件対応
画像:openai.com

大企業が生成AIの本格導入を進める際、最大の障壁となるのはモデルの賢さそのものよりも、セキュリティコンプライアンスと想定外の利用コストです。

OpenAIは4月23日、APIを利用するエンタープライズ顧客向けに、セキュリティ、管理機能、モデル性能、コスト削減を網羅した一連の新機能を発表しました。

セキュリティ強化とプロジェクト単位の厳格な統制

高い機密性が求められる環境向けに、AzureとOpenAIサービス間をパブリックなインターネットを経由せずに直接接続する「Private Link」の提供を開始しました。

あわせてネイティブの多要素認証(MFA)も導入され、厳格化するアクセス管理基準への準拠が容易になります。

組織内の運用を整理するため、新たに「Projects」機能も追加されました。

APIキーや権限をプロジェクトごとに細かく割り当てられるほか、プロジェクト単位で利用可能なモデルの制限や、予期せぬ予算オーバーを防ぐためのレート制限を設定できます。

個人のアカウントに紐づかない「サービスアカウントAPIキー」の発行も可能になりました。

Assistants APIの大幅刷新と50%オフのバッチ処理

開発者向けツールであるAssistants APIも大きく進化しました。最も顕著なのが「file_search」の強化で、アシスタント1件あたりの取り込み可能ファイル数が従来の20件から10,000件へと500倍に拡大しました。

マルチスレッドによる並行検索やリランキング精度の向上に加え、自動でドキュメントの分割や埋め込みを行う「vector_store」オブジェクトも実装されています。

待望されていたストリーミング出力にも対応し、リアルタイムな対話UIの構築が容易になったほか、実行ごとの最大トークン消費量を制限する設定も追加されました。

コスト面では、非同期タスク向けの「Batch API」が新設されました。

モデル評価やオフラインでのデータ分類、要約など、即時性を求めないタスクを24時間以内に処理する代わりに、利用料金が通常価格の半額(50%オフ)になります。

さらに、GPT-4やGPT-4 Turboで継続的に一定水準以上のトークンを消費する大口顧客向けには、プロビジョンドスループットの契約量に応じて10%から50%の割引が提供されます。

なぜ重要か

今回のアップデートは、OpenAIがAPIサービスを「開発者の実験場」から「エンタープライズの本番基盤」へと一段引き上げたことを示しています。

ユーザーにとって、ファイル上限が10,000件に達したこととvector_storeの自動処理は、自前でRAG(検索拡張生成)用の外部ベクトルデータベースを構築・保守する手間を大幅に削減してくれます。夜間のデータ処理や評価タスクを抱えているチームなら、Batch APIへの切り替えでコストを即座に半減できるため、今すぐ試す価値があります。

Private Linkやサービスアカウントの導入は、企業のセキュリティ審査における定番の懸念を解消するものであり、競合するAIプロバイダーにとってもエンタープライズ獲得競争のハードルが上がった格好です。

ただし、データ管理や検索基盤までOpenAI側に委ねる仕組みが整ったことで、将来的に他社モデルへ乗り換える際の移行コストが高くなるベンダーロックインのリスクには留意しておく必要があります。

情報源 (1)

  1. [1]
    openai.com(新しいタブで開きます)原文openai.com

毎日のAIピックアップ