Google Earth、衛星写真から画像生成できる新機能を1日で緊急停止

衛星写真にテキストを入力するだけで、古代都市を復元したり空き地にビルを建てたりできる機能は、確かに夢のあるアップデートに見えました。

しかし、現実世界の紛争地や国境に爆撃跡を捏造できるとなれば話は別です。

Google は 7 月 30 日、ウェブ版 Google Earth に Nano Banana 2 を活用した画像生成機能を導入しました。世界中の衛星写真、航空写真、3D データをベースに、プロンプトを入力するだけで好みのビジュアルを合成できるというものです。

ところが公開からわずか 1 日後の 7 月 31 日、Google はこの機能を緊急停止し、ロールバックすることを発表しました。

わずか 1 日で露呈したリスク

発表当初、Google はポジティブな活用例をアピールしていました。紀元 78 年のポンペイ遺跡の再現や、Gemini と連携したインフォグラフィック作成、東京の空き地にショッピング街を描く不動産プランニングなどです。

しかし、この自由度は悪用の格好の標的となりました。

調査機関 Digital Digging の Henk van Ess 氏がテストを行ったところ、米墨国境に集まる難民の姿や、ガザ地区の病院のすぐ脇にできた巨大な爆撃クレーターの画像を極めて簡単に生成できてしまいました。

同氏によると、テスト中にプロンプトが拒否されることも、表現が和らげられることも一切なく、生成された映像は Hive の AI 検出ツールすら欺いたといいます。

「現実への信頼」を守るための撤退

Google は当初、生成された画像には AI 製であることを示す電子透かしが入っており、有害なテーマに対する保護措置もあると説明していました。

しかし規約違反となる画像のスクリーンショットが拡散されるのを受け、翌日には方針を一変させました。

更新された公式声明では、Google Earth が現実世界を正確に伝えるツールとして特別な信頼を得ていることに触れつつ、より強力な安全対策を講じるまで機能をロールバックすると説明しています。なお、生成画像は他人の Google Earth 画面に共有されるものではなく、透かしも付与されていたと強調しています。

なぜ重要か

現実の地理座標に画像生成 AI を直接結びつける試みは、都市計画家や教育者にとっては非常に実用的なアプローチでした。白紙のキャンバスではなく、本物の地形の上に構想を描けるからです。

しかし、衛星写真というメディアが持つ「事実としての重み」を、Google が甘く見すぎていた感は否めません。

一般的な画像生成ツールで作られた偽画像なら疑う余地があっても、Google Earth の航空写真そっくりの画像が SNS に流出すれば、軍事紛争や国際政治の現場で致命的な混乱を招きます。電子透かしがあったとしても、画面のスクリーンショットを切り取られてしまえば抑止力にはなりません。

私たちは、生成 AI を権威ある実世界データに組み込む際のリスク設計において、業界全体に大きな教訓を残したと考えます。地政学的な機微地域に対する厳格な制限なしに、この機能が再び日の目を見るのは難しいはずです。