OpenAI、米大統領選を標的にしたイランの影響力工作アカウントを停止

最近ネット上で、米大統領選に関するやたらと過激な議論を見かけたなら、それを書いたのは実際の有権者ではないかもしれません。

OpenAIは、米大統領選などを標的に世論工作を行っていた、イラン関連の組織「Storm-2035」が利用していたChatGPTアカウント群を特定し、利用を停止したと発表しました。

リベラルと保守を演じ分け、美容ネタまで投稿

発表によると、この工作グループはChatGPTを主に長文記事の執筆と、SNS向けの短文コメント生成という2つの用途で悪用していました。

長文記事の配信先として、リベラル系と保守系の双方のニュースサイトを装った5つのウェブサイトが使われていました。扱うテーマは米大統領選の候補者批評から、ガザ地区の紛争、パリオリンピックへのイスラエル参加、さらにはベネズエラ情勢やスコットランド独立問題にまで及んでいました。

また、X（旧Twitter）の十数個のアカウントやInstagramを使い、英語とスペイン語でコメントを投下していました。他のユーザーが投稿したコメントをChatGPTにリライトさせて自然な意見に見せかけたり、怪しまれないよう政治的な主張の合間にファッションや美容に関する話題を混ぜてフォロワーを増やそうとしたりする形跡も見られました。

拡散力はほぼゼロで沈没

手の込んだ仕掛けに見えますが、実際の反響は皆無に等しい結果に終わりました。OpenAIによると、特定された投稿の大半は「いいね」やリポスト、コメントがほぼゼロだったとのことです。

ブルッキングス研究所が定める世論工作の影響度指標（1から6段階）でも、今回の活動は下から2番目の「カテゴリー2」の低い方に位置づけられています。複数プラットフォームで活動は見られたものの、本物の人間のユーザーに拡散された形跡は確認されませんでした。今回の特定には、前週にマイクロソフトが公開した脅威情報が役立ったとしています。

なぜ重要か

AIを使えば、誰でも瞬時に多言語かつ多角的なプロパガンダを大量生産できる時代になったことは事実です。ニュースサイトの立ち上げからSNSでのリライトコメントの量産まで、工作活動のコストはほぼゼロに近づいています。

しかし、今回の件が示しているのは「コンテンツの生成」と「影響力の獲得」はまったくの別物だという現実です。OpenAIが迅速にアカウントを凍結し、あえて影響が皆無だった実態を数値とともに公表した姿勢は、大統領選を控えて過熱する「AIによる世論操作の脅威論」を冷静に受け止める材料として賢い対応だと評価できます。

とはいえ、攻撃側がこのまま引き下がるとは思えません。生成コストがタダ同然である以上、彼らはアルゴリズムを突破する手法を試行錯誤し続けるはずです。防衛側が事後的にアカウントを潰す「もぐら叩き」だけでは、いずれ真に巧妙な工作を見落とすリスクが残ります。