Redditユーザーが偽情報を拡散、GoogleのAI Overviewsを混乱させる

お気に入りの飲食店を観光客やインフルエンサーから守るため、ロンドンの地元民がReddit上で偽のおすすめ情報を投稿する動きが広がっています。

このローカルな自衛手段が、図らずもGoogle検索と生成AI機能が抱える根本的な弱点を浮き彫りにしました。

信頼できるはずの掲示板が罠になる

近年、SEOスパムやAI生成テキストの氾濫により、Googleの検索品質低下を訴える声が増えていました。

その対策として多くのユーザーが頼ったのが、検索語句に「site:reddit.com」を付け加えて一般人の生の声を探す裏技でした。

Googleも掲示板データの価値を認識しており、報道によるとRedditと年間約6000万ドル規模のAI学習データ提供契約を結んでいます。

さらに5月、Googleは米国で「AI Overviews」の提供を開始しました。検索上位の情報をAIが要約し、検索結果の最上部に表示する機能です。

Googleの検索責任者であるリズ・リード副社長は5月のブログで、AI Overviewsは上位検索結果の裏付けがある情報のみを表示する設計だと説明していました。

しかし、ジャーナリストのベンジ・エドワーズ氏が当時指摘した通り、この仕組みは「上位表示される結果が正確である」という誤った前提に依存しています。

地元住民が仕掛けた皮肉やデタラメの推薦文を、AIはそのまま真に受けて要約を作成してしまいます。

なぜ重要か

今回の現象は、ユーザー生成コンテンツ（UGC）のスクレイピングに依存するAI検索の危うさを明確に示しています。

AIは言葉の文脈やユーモア、地域コミュニティ特有の意図的な嘘を見抜くことができず、ただ文字通りの情報を集計して提示しているに過ぎません。

利用者側から見れば、Redditの体験談をそのまま信じる裏技も、AIによるまとめ検索も、現時点では慎重に真偽を確かめる必要があります。

Googleにとっても、年間6000万ドルを投じて確保したデータソースが、皮肉にも誤情報の温床になりかねないというジレンマを突きつけられています。

検索大手各社が言葉の背景にある文脈や人間の動機を判断する手立てを見つけられない限り、AI要約機能がネットの悪ふざけに振り回される状況は今後も続きそうです。