Meta、選挙関連の誤情報でAI生成コンテンツは1%未満と発表

2024年の初め、テクノロジー業界や政治関係者が最も恐れていたのは、生成AIによる大規模な選挙妨害でした。世界中で国政選挙が相次ぐ中、ディープフェイクや自動生成されたプロパガンダがSNSを埋め尽くすのではないかと警戒されていたのです。

しかし年末を迎え、Metaが公表した検証結果は、そうした懸念とはかなり異なる現実を示しています。同社によると、Facebook、Instagram、ThreadsにおけるAIコンテンツの影響は極めて限定的だったといいます。

59万件のプロンプト拒否と、空振りに終わった工作活動

この調査は、アメリカ、イギリス、フランス、インド、インドネシア、メキシコなど、今年行われた主要な選挙を対象にしたものです。ファクトチェックによって誤情報と認定されたコンテンツのうち、AI関連のものは全体の1％未満にとどまりました。

もちろん、悪用しようとする動きが皆無だったわけではありません。Metaによると、自社の画像生成ツール「Imagine AI」は、米大統領選の投票日に至るまでの1か月間で、トランプ次期大統領、バンス次期副大統領、ハリス副大統領、ウォルツ知事、バイデン大統領の画像生成リクエストを約59万件ブロックしました。

世論工作を狙う組織的なアカウント群についても、生成AIの導入によって得られたのはわずかな作業効率の向上程度だったと報告されています。

Metaの対策手法も興味深い点です。同社はコンテンツがAI製かどうかを精査するのではなく、アカウント群の不審な挙動そのものを検知して対処しています。そのため、AIが使われていようがいまいが、工作活動の摘発自体に大きな支障は出なかったとしています。

今年排除された約20の秘密工作ネットワークの多くは、生身のユーザーにほとんど届かず、偽のフォロワーや「いいね」で水増ししていただけでした。またMetaは、ロシア系とされる選挙関連の偽動画の多くが、自社プラットフォームではなくXやTelegram上で拡散されていたとも指摘しています。

なぜ重要か

今回の発表は、選挙イヤーを前に過熱していた「AI脅威論」を冷静に見直す重要なデータです。一般のユーザー目線で見れば、タイムラインを埋め尽くしていたのは依然として従来通りの人間の生々しい対立や切り抜き動画であり、映画のような高度なAI陰謀論に支配されていたわけではなかったことが分かります。

ただし、この「1％未満」という数字を額面通りに受け取るのは禁物です。これはあくまで第三者機関がファクトチェックを実施した投稿の中での割合であり、調査の網から漏れた細かなAI製スパムや誘導投稿がどれだけ存在したかは測りきれません。

さらにMetaが、規制の緩いXやTelegramを引き合いに出して自社の健全性をアピールしている点も計算通りと言えます。今後は、大手プラットフォーム内での高度なディープフェイク対策だけでなく、複数のツールやオープンソースAIを組み合わせた安価な情報工作が、監視の届きにくい外部チャネルでどう広がっていくかを注視する必要があります。