スペイン水害の決定的瞬間、本物の写真が「AI生成」と疑われる事態に

スペインのバレンシア近郊を襲った記録的な豪雨の後、ソーシャルメディア上で1枚の衝撃的な写真が拡散されました。狭い通りに約70台もの自動車が無造作に積み重なった光景は、一見すると超現実的な映画のワンシーンのようでした。

しかし、この画像に対するネット上の反応は支援や同情ではなく、「Midjourneyで作られたフェイク画像だ」という疑念の声でした。局地的な豪雨により、わずか8時間で1平方メートルあたり490リットルを超える雨が降り、巨大な水流がSUVを玩具のように押し流した現場の惨状でしたが、車の光沢や奇妙に丸みを帯びた輪郭が、かえって最新AIの生成物のように見えてしまったのです。

ジャーナリストのCharles Arthur氏が検証を行い、写り込んでいたバーの看板を手がかりにApple Mapsのストリートビューで現地を特定したことで、ようやくこの写真が本物であることが証明されました。

リアルを疑う人々と、AIゴミを歓迎するプラットフォーム

なぜ人々は、現実の被害写真を真っ先にAI生成物だと決めつけてしまったのでしょうか。

背景にあるのは、SNS上に氾濫するいわゆる「AI slop（低品質なAIゴミコンテンツ）」の存在です。ユーザーは日常的に偽の画像を見せられ続けた結果、極端な光景を目にすると無意識に「どうせAIだろう」と身構えるようになっています。

通常であれば、プラットフォーム側はこうした粗悪なコンテンツの蔓延を取り締まるはずです。しかし現実は真逆の方向に進んでいます。

IT系メディア404 Mediaの報道によると、Metaのマーク・ザッカーバーグCEOは最近の決算説明会で、FacebookやInstagramなどのフィードにAIが生成・要約したコンテンツを新たなカテゴリーとして積極的に投入していく方針を語りました。プラットフォームにとって最優先なのはユーザーの滞在時間であり、AI生成物がエンゲージメントを稼げるなら何でも構わないというのが本音のようです。

コンテンツ供給側にとっても、これは手軽なビジネスになっています。インドなどの発信者は、感情を揺さぶるグロテスクなAI画像を大量に投稿し、プラットフォームのボーナスプログラムを利用して1000いいねにつき100ドル前後の報酬を得ている実態が明らかになっています。

なぜ重要か

この出来事は、生成AIがもたらす危機の質が変化したことをはっきりと示しています。

これまで議論されてきたディープフェイクの脅威は、「嘘を本物だと信じ込ませること」でした。しかし今回の事例が浮き彫りにしたのは、その裏返しとして生じる「本物の惨劇がAIの嘘として片付けられてしまう」という現実の喪失です。被災地の痛切な叫びが、タイムライン上では単なる合成プロンプトの成果物として冷笑されてしまいます。

一般ユーザーにとって、目にする画像が本物かどうかを毎回ストリートビューで照合することなど不可能です。真偽の判別がつかなくなれば、人々は最終的にあらゆる現実のニュースに対して無関心になっていくでしょう。

さらに、エンゲージメントのためにAIゴミを容認し、むしろ自ら配信を強化しようとするMetaの姿勢には大きな危うさがあります。低コストな合成画像で目先の滞在時間を稼ぐサイクルは、長期的にはプラットフォーム全体の急速な陳腐化と信憑性の崩壊を招くだけだと考えられます。