デサンティス陣営の選挙広告にAI生成画像、トランプ氏とファウチ氏の抱擁を偽造

もし選挙のネガティブキャンペーンが、事実の曲解にとどまらず、AIによる完全な「証拠偽造」へと舵を切ったらどうなるでしょうか。

6月5日、2024年米大統領選で共和党候補指名を目指すロン・デサンティス陣営の公式広報アカウント「DeSantis War Room」が、ライバルのドナルド・トランプ前大統領を攻撃する動画を公開しました。トランプ氏が新型コロナ対策の中心人物だったアンソニー・ファウチ元大統領首席医療顧問と親密であったと印象づける内容で、トランプ氏がファウチ氏の頬にキスしたり抱き合ったりする写真を含む、計6枚のコラージュが使われていました。

しかし、このうち3枚は実在しないAI生成画像であることが判明しました。

画像鑑定の専門家が指摘した破綻

AFP通信がいち早く偽装を見抜き、カリフォルニア大学のハニー・ファリド教授やデジタルメディア分析の専門家リュウ・シーウェイ氏らが検証を行いました。専門家たちは「極めて高い確率でAI製」と断定しています。

問題の3枚は逆画像検索で一切ヒットせず、生成AI特有の痕跡が散見されました。人物の皮膚や髪の毛が不自然になめらかで光沢感を帯びており、二人の顔の位置関係やポーズが解剖学的に破綻しています。

決定的な証拠となったのが背景のホワイトハウス記者会見場の看板です。実物には「The White House, Washington」と明瞭に書かれているはずですが、広告の偽画像では青の色調が異なり、文字が意味をなさない乱雑な記号に変形していました。

この件についてデサンティス氏を支援する政治団体の広報担当マット・ウォルキング氏は、トランプ陣営こそ無数のフェイク画像を流していると反論し、陣営の迅速対応責任者クリスティーナ・プショー氏も冷ややかな反応を示しました。

パロディから「真実の偽造」へ

米国の保守層の間では、ワクチン義務化などを主導したファウチ氏への反発が根強く残っています。広告の狙いは明白で、トランプ氏がファウチ氏の同調者だったと信じ込ませ、支持層を奪うことにありました。

政治におけるAI利用そのものは目新しくありません。トランプ氏自身、自らが祈りを捧げるAI画像を拡散したり、悪魔やヒトラーのAI音声を使ったデサンティス氏への嘲笑動画を共有したりしてきました。また共和党全国委員会もバイデン大統領の出馬表明後にAIによるディストピア風の広告を公開しています。

しかし、それらが露骨なパロディや創作とわかる形をとっていたのに対し、今回の動画は実在する3枚の本物写真の中に3枚のAI偽写真を巧妙に紛れ込ませていました。

なぜ重要か

私たちは、この広告がディープフェイク技術の政治利用における危険な一線を越えたと考えています。

本物の記録写真とAI偽画像を同一の枠組みで提示する手法は、一般の有権者にとって見破るのが極めて困難です。スマートフォンで動画を流し見する中で、看板の文字の潰れや髪のテクスチャを拡大確認する人はいません。有権者が抱く既存の疑念に沿った偽情報を「決定的な証拠」として定着させる力を持っています。

さらに深刻なのは、社会全体が「何も信じられなくなる」ことです。政治陣営が平然と偽画像を混ぜるようになれば、将来的に政治家が自らに不都合な本物の写真や録音を突きつけられた際にも「それはAIのフェイクだ」と言い逃れできるようになってしまいます。

プラットフォーム側の検出や規制が後手に回る中、AIによる現実の改ざんはすでに実戦投入されています。2024年の大統領選が本格化するにつれ、同様の手法がより精巧になって繰り返されるリスクを警戒する必要があります。