米Microsoft、中国が画像生成AIを米有権者の世論誘導に利用と警告

ソーシャルメディアにおける世論誘導といえば、以前はぎこちないストック画像の切り貼りや粗い手描きイラストなど、どこか不自然さが漂うものが主流でした。

しかし、生成AIの登場によってその常識が崩れつつあります。

米Microsoftの脅威分析センターは9月7日、中国の工作員とみられる勢力が、2024年の米大統領選挙を前に有権者の分断を煽る目的で、AI生成画像を悪用した世論工作を展開しているとする調査報告書を公表しました。

在米中国大使館の報道官はこれに対し、偏見と悪意ある推測に満ちていると反発し、中国はAIの安全な利用を推進していると主張しています。

拡散モデルの導入で工作はより巧妙に

報告書によると、この不審なアカウント群は2023年3月頃から生成AIの活用を開始しました。左右両派の米国有権者になりすまし、英語で政治的対立を煽る投稿を拡散させていたといいます。

具体的なプラットフォーム名は明記されていないものの、掲載された証拠画像からはFacebookやTwitter（現X）での展開が確認できます。

工作の標的となったのは、銃規制や人種問題、ブラック・ライヴズ・マター運動といった米国社会の最も先鋭化した対立点です。さらに特定の政治家を中傷するコンテンツも含まれていました。

象徴的な例として挙げられたのが、自由の女神が突撃銃を構え、「すべてが投げ捨てられている。暴力の女神」というキャプションが添えられたAI画像です。

これらのアカウントは、プロフィール上の所在地を米国内に設定し、現地の政治スローガンやハッシュタグを巧妙に織り交ぜて活動していました。従来の粗悪なコラージュ画像と比べ、拡散モデルが生み出すビジュアルは格段に目を引き、信憑性が高いと分析されています。

報告書は、こうした世論工作のコンテンツが40以上の言語で約1億300万人にリーチした可能性があると指摘しています。先週にはMetaも、世界最大規模のクロスプラットフォーム秘密影響工作を阻止したと発表したばかりでした。

Microsoftはロイターに対し、技術的証拠、行動証拠、文脈的証拠を組み合わせた多面的な帰属モデルによって分析したと説明しています。

なぜ重要か

一般ユーザーにとって、タイムラインに流れてくる扇情的な画像への警戒はもはや必須のスキルになりました。かつてのように不自然な日本語や雑な画像編集を見分けるだけでは不十分で、拡散モデルの普及によって誰でも低コストでリアルな偽コンテンツを作れる時代に入ったからです。

プラットフォーム企業にとっては、これまでの監視体制の刷新を迫られる事態といえます。既存のハッシュ一致やテキスト照合では、毎回異なるプロンプトから生成されるAI画像を防ぎきれません。今後はコンテンツの来歴証明や電子透かしといった技術の標準化が急速に進むと考えられます。

今回のMicrosoftの公表は、大統領選を前にサイバー防衛の存在感を示す賢明な立ち回りといえます。一方で、生成AIモデルのオープンソース化が進むなか、国家主導の工作と国内の過激な個人の行動を技術だけで正確に見分けることは、今後さらに難しくなっていくはずです。