Google、Geminiでの選挙関連の質問をグローバルで制限へ

世界各地で重要な選挙が控えるなか、AIに候補者の政策や各党の主張を整理してもらおうと考えていた人には、冷や水が浴びせられることになりました。

TechCrunchの報道によると、Googleは自社のAIチャットボット「Gemini」において、選挙を控えた国や地域で選挙関連の質問に対する回答をグローバルに制限し始めました。この制限はすでに米国で適用されており、インドをはじめ今後数カ月以内に選挙が予定されている主要国へ順次展開されています。

誤字で突破できる急ごしらえの規制

対象地域でGeminiに政党や立候補者、政治家について尋ねると、解説は返ってきません。

代わりに、この質問への回答方法はまだ学習中であるため、通常のGoogle検索を試してほしいという定型メッセージが表示される仕組みです。

Googleは公式ブログで、極めて重要なテーマであるため細心の注意を払った措置だと説明しています。

しかし、この防御策は万全ではありません。TechCrunchの検証では、プロンプトにあえて誤字を混ぜて入力すると、制限をすり抜けてそのまま回答が出力されてしまうケースが確認されました。いわばモグラたたきのような状態が続いています。

インド政府の怒りと相次ぐ失態

Googleがここまで神経質になる背景には、度重なる炎上があります。

先月、インドのモディ首相がファシストに該当するかという質問に対し、Geminiが一部からそう指摘されている旨を回答したことで、インド政府から法令違反だと強い反発を受けました。その直後、インド政府は大手IT企業に対し、新しいAIモデルの投入前に政府の許可を得るよう求める通達を出しています。

さらにGeminiは先月、歴史上の人物の画像生成で不正確な描写を連発し、人物画像の生成機能を緊急停止したばかりでした。

なぜ重要か

私たちは、Googleが取ったこの全面規制について、現実的ではあるものの極めて消極的な敗北宣言だと考えています。

本来であれば、複雑な選挙公約や政治論争を分かりやすく要約することこそ、対話型AIが一般ユーザーに提供できる大きな価値でした。しかし現状ではその恩恵が完全に断たれ、ユーザーは以前のWeb検索へ送り返されることになります。

しかも誤字程度で簡単に回避できてしまう設計を見る限り、実質的な悪用対策というよりは、政府や世論からの批判をかわすための看板倒れの制限に見えます。

業界全体から見れば、選挙イヤーにおいて政治的回答の放棄に踏み切った初のビッグテックとなりました。生成AIがハルシネーションや政治的偏向を根本的に克服できない限り、リスクを恐れる巨大企業は口を閉ざすしかないという現実を浮き彫りにしています。