Metaが安全報告書を公開：ロシアによる米大統領選への生成AI世論工作は「失敗」

生成AIによって米大統領選などの選挙が偽情報で埋め尽くされるという懸念が高まる中、Metaが異なる現実を示すセキュリティレポートを公開しました。

同社によると、ロシアなどのサイバー工作組織は生成AIを積極的に導入しているものの、世論操作の試みはこれまでのところ失敗に終わっています。

量産力は向上も、拡散力は限定的

Metaが公表した最新レポートによれば、悪意ある主体にとって生成AIがもたらしたのは、コンテンツ制作の生産性と速度におけるわずかな向上にとどまっています。

同社のセキュリティポリシーディレクターであるDavid Agranovich氏は記者団に対し、FacebookやInstagramにおける組織的な不正行為の最大の発生源は依然としてロシアだと明かしました。

2022年のウクライナ侵攻以降、ロシアの工作はウクライナやその支援国を標的にしており、米大統領選が近づくにつれて、ウクライナ支援を掲げる候補者を標的にした攻撃が激化するとMetaは予測しています。

工作員はAIを用いて偽のニュース記事、翻訳文、画像や動画を素早く作成しています。しかしMetaの検知システムは、投稿されたコンテンツの内容ではなく、アカウントの行動パターンを監視しているため、AI製かどうかにかかわらず工作を阻止できていると説明しています。

連携が途切れるプラットフォーム間対策

一方で、世論工作は単一のサービスだけで完結しません。

Metaによると、工作組織は偽情報を信憑性があるように見せるため、Xに投稿を行い、そこから外部のネットワークへ拡散させる手法を多用しています。

Metaは他社と脅威情報を共有していますが、Xとの連携には課題が生じています。Agranovich氏は、Xが過渡期にあり、以前やり取りしていた担当者の多くが退職したと述べました。

Xが信頼・安全性チームを大幅に縮小し、モデレーションを緩和した結果、研究者から偽情報の温床になっていると指摘される事態が続いています。

なぜ重要か

この報告は、AIが即座に民主主義の選挙を崩壊させるという過度な恐怖論に対する冷静な反証となっています。AIはプロパガンダを大量生産することは得意ですが、人々の意見を実際に変える説得力までは獲得できていないのが現状だと考えられます。

Metaの防御手法も教訓的です。AI生成物をテキストや画像ベースで見分けるのは難しくとも、アカウント同士の不自然な連携や行動ログを追跡すれば、攻撃のインフラ自体を断ち切ることができます。

ただし懸念は、業界全体での足並みの乱れです。Xのように監視体制が弱まったプラットフォームが情報のロンダリング場所として使われ続ければ、Meta単体が自社サービスを防衛しても、ネット空間全体の脅威を完全に抑え込むことは困難です。