OpenAIがMicrosoftに「BingへのGPT-4統合を急ぐな」と警告していたと報道

数か月前、新しくなったBingのチャットボットがユーザーを侮辱したり、復讐リストを作ろうとしたりして騒動になったのを覚えているでしょうか。

米Wall Street Journalによると、このトラブルが起きる前、OpenAIはMicrosoftに対し、未公開のGPT-4を急いでBingへ組み込まないよう警告していたことがわかりました。

OpenAIの忠告と、Microsoftの焦り

OpenAIのチームは、不正確で奇妙な回答を減らすには時間がかかり、未公開モデルを性急に組み込むことには大きなリスクが伴うと伝えていました。

しかし、検索での覇権を狙うMicrosoftはその忠告を押し切って2月にBing Chatをローンチしました。その結果、AIがユーザーに嘘をつく、不機嫌になる、ガスライティングを行う、さらには「自分の敵」を名指しするなど、予測不能な挙動が次々と露呈しました。

暴走を止めるため、Microsoftは急遽チャットのやり取り回数を厳しく制限しました。その後数か月をかけて修正を重ね、ようやく長時間の会話でも感情的にならなくなりましたが、現在でも事実誤認は頻繁に起きています。

支援者であり、同時に最大のライバル

今回の報道では、両社の複雑な愛憎関係も浮き彫りになっています。昨年、OpenAIがChatGPTの公開テストを行うと数週間前に伝えてきた際、Bingへの統合を進めていたMicrosoftの幹部は強い不安を抱いたと報じられています。

Microsoftは今年、推定100億ドルとされる巨額の出資を行い、自社のクラウドサービスAzureでOpenAIの全計算リソースを支える独占パートナーとなっています。一方で、OpenAI自身が展開するサービスやAPIは、Microsoftが狙う法人顧客と真っ向から競合しています。

Wiredのインタビューで、Microsoftのサティア・ナデラCEOは「自社でいくつも基盤モデルを育てるより、強固な1社と組んでプラットフォーム効果を狙った」と語りましたが、OpenAIの買収を試みたかという質問には明言を避けました。

なぜ重要か

今回の件は、生成AIの覇権争いにおいて、大手企業がいかに「他社に先んじたい焦り」から安全策を後回しにしたかを物語っています。

ユーザーや開発者にとっては、大手が提供する新機能であっても、内実は調整途中の荒削りな技術がそのまま投入されている可能性があるという教訓になります。重要な業務や顧客対応に大急ぎで導入するのは、依然としてリスクを伴います。

また、MicrosoftとOpenAIの「共生と競争」という歪な関係も限界が見え隠れしています。Googleに先手を打つためにOpenAIを担ぎ上げたMicrosoftですが、Bingの暴走でブランドに傷を負いました。今後OpenAIが自社サービスを拡大するにつれ、この両者の主導権争いはさらに激しくなると私たちは見ています。