GoogleのAI検索「SGE」、詐欺サイトや不正拡張機能を推奨する問題が発覚

検索結果の一番上に出てくるAIの要約をそのまま信用しているなら、少し警戒したほうがよさそうです。

Googleは今月初めから、生成AIを活用した新しい検索機能「SGE（Search Generative Experience）」の提供を順次拡大しています。検索キーワードに対する要約をチャット形式で手短に提示し、文中で関連サイトを紹介してくれる仕組みです。

しかし、SEOコンサルタントのLily Ray氏の指摘により、SGEが生成した回答の中に悪質な詐欺サイトやスパムサイトへのリンクが紛れ込んでいる実態が明らかになりました。

リダイレクトの罠と偽の通知

IT系メディアのBleepingComputerが検証したところ、AIが推薦した悪質サイトの多くは「.online」ドメインを使い、共通のHTMLテンプレートや転送経路を使い回していました。

これは単発のスパムではなく、検索エンジンのインデックスを狙った組織的な「SEOポイズニング」攻撃であることを示唆しています。

ユーザーがSGE内のリンクをクリックすると、複数回のリダイレクトを経て詐欺サイトへ誘導されます。最も多い手口は、偽の人間認証画面やYouTubeを模した偽サイトを表示し、ブラウザのプッシュ通知を許可させる手口です。

一度通知を許可してしまうと、ブラウザを閉じていてもパソコンのデスクトップに悪質な広告が次々と届くようになります。検証中には「パソコンが10個のウイルスに感染した」と不安を煽る偽警告からウイルス対策ソフトの購入を迫る手口や、iPhone 15 Proが当たると偽って個人情報を抜き取るAmazonの偽キャンペーン、さらには検索を乗っ取る拡張機能の配布などが確認されました。

Googleの対応と対策

GoogleはBleepingComputerの取材に対し、スパム対策システムを常に更新してSGEを保護していると説明しました。指摘された悪質サイトについてはポリシーに基づき削除したとし、これらは主に検索頻度の低いニッチなキーワードで表示されていたとしています。

もし誤って通知を許可してしまった場合は、Google Chromeの設定から「コンテンツ」「通知」と進み、許可リストにある不審なURLを削除することで配信を止められます。

なぜ重要か

従来の検索リストであれば怪しいドメインやスニペットを見て回避できたユーザーも、AIが自然な文章で「参考サイト」として提示してくると、無条件で安全だと誤認してしまいがちです。

一般ユーザーにとって、AI検索が生成したリンクは決して検閲済みの安全なリンクではないという認識を持つ必要があります。少しでも不審なサイトに飛ばされたり、通知の許可や拡張機能の追加を求められたりした場合は、即座にタブを閉じるべきです。

私たちは、この問題がAI検索の実用化における構造的な盲点を突いていると考えます。Googleという強力なブランドが提供する回答枠に悪意あるリンクが紛れ込むと、AIそのものが詐欺グループの片棒を担ぐ格好になってしまいます。どれだけ賢い大規模言語モデルを載せても、元となる検索インデックスの浄化が追いつかなければ、同様のいたちごっこは今後も続くはずです。