GoogleがAI Overviewsの誤回答に対処、皮肉やフォーラム投稿の引用を制限

ピザのチーズが剥がれないように接着剤を塗る、あるいは健康のために1日1個の小石を食べる。ここ数週間、Googleの新しい検索機能が返した珍妙な回答のスクリーンショットが世界中で話題になりました。

Googleは5月30日、Google I/Oで米国の全ユーザー向けに提供を開始した「AI Overviews」のトラブルについて公式ブログで釈明し、システムの修正内容を発表しました。

皮肉とネットミームに騙されたAI

Googleによると、AI Overviewsは単に出力を作るチャットボットとは異なり、Web検索のランキングシステムと連携して上位ページの情報だけを要約する仕組みになっています。

しかし、この仕組みが思わぬ落とし穴にはまりました。原因の1つは、ネット上にまともな情報が存在しない「情報の空白地帯」です。

「1日に石を何個食べるべきか」といった質問は、これまで誰も検索したことがありません。結果として、地質学系ソフトウェア企業のサイトに転載されていた風刺記事をシステムが真に受け、唯一の回答元として参照してしまいました。

掲示板の投稿も裏目に出ました。Redditなどのコミュニティに投稿された冗談や皮肉を、AIが文字通りの解決策として解釈し、チーズをピザにくっつけるために接着剤を使うよう勧めてしまった形です。

なおGoogleは、ネット上で拡散された画像の中には、妊娠中の喫煙や車内への犬の放置など、実際には出力されていない偽造スクリーンショットが多数含まれていたと反論しています。

制限を強化し、掲示板の引用を抑制

Googleはこの問題を受けて、十数件の技術的改善を施したと説明しています。要するに、AIが口を挟む場面を意図的に減らす方針です。

不条理な検索クエリを検知するフィルターを強化し、風刺やユーモアを含むコンテンツの引用を制限しました。また、誤解を招く恐れのある分野では、掲示板などのユーザー生成コンテンツの利用を抑える調整を行っています。

速報性が求められるニュース分野では原則としてAI要約を表示せず、健康関連のクエリについてもより厳格な制限を設けました。

Googleのデータによれば、規約違反となる回答が生成された割合は、AI Overviewsが表示されたユニーク検索700万回につき1回未満だったといいます。ただ、検索数が膨大である以上、ごくわずかなエラーでも大きな騒動になります。

なぜ重要か

数十億人が利用する日常のインフラに生成AIを組み込むことの難しさを、今回の騒動は見せつけました。

一般ユーザーにとっては、AI Overviewsの回答を鵜呑みにせず、元のWebリンクを自分で確認する姿勢がまだ欠かせません。旅行の持ち物リストのような定型的な調べ物には便利ですが、健康や専門的な知識が絡む場面では慎重になるべきです。

今回のGoogleの対応を見ると、ネット特有の皮肉やジョークをAIに見分けさせる技術的なハードルは、依然として極めて高いことが分かります。回答精度を高めるためにトリガー条件を厳しくし、掲示板の引用を減らした結果、無難にはなりましたがAIの適用範囲は狭まりました。

Perplexityなどの新興勢力やOpenAIの動きに焦り、見切り発車で全米展開を急いだ印象は否めません。検索の絶対的な信頼を守りながらAIを活用するという両立の課題は、当面続きそうです。