GoogleのAI検索が珍回答、「ピザのチーズには接着剤」と助言

ピザのチーズが滑り落ちて困っているなら、Googleの新しいAI検索は驚くべきアドバイスを授けてくれます。ソースに大さじ2杯ほどの無害な接着剤を混ぜて粘り気を出せばいい、という提案です。

これは冗談ではなく、Googleの新機能「AI Overviews」が実際に出力した回答です。先週開催されたGoogle I/Oで、検索部門トップのリズ・リード氏は「Googleがあなたの代わりにググってくれる」と誇らしげに語り、2024年末までに世界中へ展開すると発表したばかりでした。しかし、本格展開の出足は思わぬ大混乱となっています。

11年前のRedditの冗談を真に受けるAI

ピザに接着剤を入れるというアドバイスは、あるXユーザーの指摘によると、11年前に掲示板Redditへ投稿された冗談のコメントが元ネタとみられています。AIは皮肉やジョークを判別できず、真面目な料理のコツとして拾い上げてしまった形です。

おかしな回答はこれだけにとどまりません。Business Insiderのピーター・カフカ記者が「ロンドン塔は第二次世界大戦でドイツ軍の爆撃を受けたか」と尋ねたところ、AI Overviewsはビッグベンの時計塔と混同し、屋根や文字盤が空襲で損壊したという誤った解説を生成しました。SNS上では「かつてNHL（北米プロアイスホッケーリーグ）でプレーした犬がいる」と回答された例も共有されています。

Googleの広報担当者はBusiness Insiderに対し、これらは極めて稀な検索クエリであり大多数のユーザー体験を代表するものではないと釈明しています。また、機能の提供前には広範なテストを実施しており、大半の概要は高品質な情報を提供していると主張しました。

なぜ重要か

一般ユーザーにとって、今回の騒動はAIによる要約検索を鵜呑みにしてはいけないという分かりやすい教訓になりました。文章の言い換えやアイデア出しなら多少のハルシネーションも笑って済まされますが、料理や健康、歴史的事実の調査で嘘を教えられれば実害が出ます。要約を読んでから元の情報を確認するくらいなら、最初から信頼できるリンクを開いた方が早いのが現状です。

業界の視点で見れば、OpenAIの検索参入の噂やPerplexityの急成長に焦ったGoogleが、見切り発車で守備範囲を広げすぎた結果に見えます。検索の根幹にあるのは何よりも「正確性」と「信頼性」ですが、大規模言語モデルは確率で次の単語を予測しているだけで、ユーモアと事実の区別すらつきません。

検索結果の一等地にAIの回答を固定表示する試みは、一見すると先進的に見えますが、自社の最も強固なブランドである検索の信頼性を自ら削る危うさを孕んでいます。答え合わせをしなければ使えない検索エンジンなら、ユーザーは次第に別の選択肢を探し始めるはずです。