OpenAI、開発コストを最大20分の1に削減する新APIを計画か＝ロイター

生成AIを使ったアプリ開発で最大の障壁となっているのは、モデルの賢さではなくAPI利用料の高さです。

現在の仕様では、文脈を維持するために過去の会話履歴を毎回すべて送信し直す必要があります。GPT-4でわずか1ページの文書を処理するだけでも約10セントかかることがあり、会話が長引くほど開発元の請求額は跳ね上がります。

ロイターの報道によると、OpenAIはこの課題を解消するため、11月6日にサンフランシスコで開催する初の開発者会議で大幅なアップデートを発表する計画です。

会話履歴を保持し、開発コストを最大20分の1に削減

アップデートの目玉は、開発者ツールへのメモリ機能の追加、いわゆるステートフルAPIの提供です。

システム側で会話履歴を記憶できるようになるため、開発者は毎回すべての履歴データを送り直す必要がなくなります。関係者によれば、これによりアプリ制作にかかるAPI費用は理論上、最大で20分の1に激減する可能性があります。

あわせて、画像を解析・説明できるVision APIも開発者向けに提供される見通しです。

一般のChatGPTユーザー向けに視覚機能が開放されてから数週間での展開となり、医療やエンターテインメントなど多様な分野でのマルチモーダル活用を後押しする狙いがあります。

プラグインの失速とオープンソースへの対抗

OpenAIが開発者の囲い込みを急ぐ背景には、高い売上目標と足元の焦りがあります。

同社幹部は今年の売上高を2億ドル、2024年には10億ドルに伸ばす目標を掲げています。しかし、サム・アルトマンCEOが目指す開発プラットフォームへの脱皮は、一般向けチャットボットの成功ほど順調ではありません。

今年初めにアップルのApp Storeを目指して急造されたChatGPTプラグインは、初期のブームが去った後、利用者が激減しました。上位30位以内に入る人気プラグインScholar AIですら、直近の1日あたり利用者数は約7000人にとどまっています。

また、調査会社PitchBookによると、今年AIスタートアップには200億ドル以上が投じられましたが、投資家はOpenAIへの過度な依存を警戒しています。多くの企業がMetaのオープンソースモデルLlamaなどに乗り換え、リスク分散を進めています。

なぜ重要か

開発者にとって、コストが最大20分の1になる可能性は事業の採算性を根底から変えるインパクトを持ちます。これまで維持費の高さから断念していた本格的な対話型エージェントや複雑なワークフロー自動化ツールが、一気に現実的な選択肢になります。

業界全体から見れば、MetaのLlamaをはじめとするオープンソース勢への強力な牽制となります。閉源モデル最大の弱点だったコスト高を自ら潰しにかかることで、Googleなどの競合にもさらなる価格引き下げ圧力がかかるはずです。

今回のOpenAIの判断は、見せかけのプラグイン経済圏から開発基盤の実利へと舵を切った点で極めて賢明だと考えられます。ただ、懸念も残ります。メモリや画像認識といったミドルウェア層の機能を公式APIが次々と取り込んでいくことは、その周辺でビジネスを築いてきたスタートアップを自ら締め出すリスクと隣り合わせだからです。