ChatGPT のプライベート会話が Google 検索管理ツールに流出、OpenAI は修正を報告

ChatGPTに入力された極めて私的でセンシティブな相談内容が、ウェブマスター向けのアクセス解析ツール「Google Search Console（GSC）」に流出していたことが判明しました。

GSCは通常、サイト管理者が自社サイトへの検索キーワードや流入傾向を分析するためのツールです。レポートには検索語句や短いフレーズが並ぶのが一般的ですが、今年9月以降、300文字を超える異常に長い検索クエリが紛れ込む現象が確認されるようになりました。

なぜ相談内容が他人の管理画面に漏れたのか

記録されていたのは、ユーザーがチャットボットに投げかけたプロンプトそのものでした。人間関係の深刻な悩みやビジネス上の機密相談など、他人に公開されるとは夢にも思っていない内容ばかりです。

この問題を先月いち早くブログで指摘したのは、アナリティクス企業Quantableの設立者であるJason Packer氏です。同氏はウェブ最適化コンサルタントのSlobodan Manić氏とチームを組み、原因を突き止めるための検証を実施しました。

その結果、両氏は「OpenAIが実際のユーザープロンプトを使ってGoogle検索を直接スクレイピングしている決定的な証拠」を突き止めたと主張しています。Googleが共有しない検索データを取得してAIの対話機能を維持するため、ユーザーのプライバシーが犠牲にされていた疑いが浮上しました。

Ars Technicaの取材に対し、OpenAIは調査結果の真偽や影響範囲については回答を控えました。一方で広報担当者は問題を認識していることを認め、少数の検索クエリのルーティングに一時的な影響を与えた不具合をすでに修正したと説明しています。

Packer氏は迅速な対応を評価しつつも、OpenAIがGoogleのスクレイピング疑惑に言及していない点を指摘し、問題が根本的に解決されたかには疑問が残るとコメントしています。

なぜ重要か

AIを個人のカウンセラーや社外秘の相談相手として使っている人にとって、今回の件は極めて大きな警鐘となります。

画面の向こうのAIと1対1で話しているつもりでも、検索機能が動いた瞬間に、入力した生の文章が外部の検索クエリとして送信され、無関係な第三者の管理画面に平文で残ってしまう危険があるためです。

業務上の機密や極めてプライベートな情報をChatGPTに入力する際は、検索連動機能の挙動に細心の注意を払う必要があります。少なくとも固有名詞を伏せるなどの自衛策をとるべきです。

AI業界の観点では、各社がリアルタイム検索機能の実装を急ぐあまり、裏側のデータ処理をいかに雑に行っていたかが露呈した格好です。他社の検索エンジンからデータを拾い集めるためにユーザーの生のプロンプトをそのまま横流しする設計は、プライバシー保護の観点からあまりにお粗末であり、OpenAIへの信頼を揺るがしかねません。