OpenAIが露・イランの偽情報工作を遮断：架空記者やシンクタンクで主流メディア浸透

SNSでボットを使って大量のデマを書き込む時代は終わりつつあります。ロシアやイランの工作グループは今、ChatGPTを悪用して架空のシンクタンクや偽の記者を作り出し、実在する一般メディアへ記事を潜り込ませる手口へとシフトしています。

OpenAIは最近、ChatGPTの利用規約に違反したロシア発およびイラン発の秘密工作ネットワークを遮断したと発表しました。両者とも「隠れ蓑（フォルス・フロント）」となる組織を設立し、地政学的なプロパガンダを一般読者へ流し込んでいました。特にロシア側の作戦は、影響力評価基準である「IO Breakout Scale」で過去最高となるカテゴリー5と評価されました。OpenAIが過去2年半で暴露した30件の工作活動の中で、この水準に達したのは今回が初めてです。

現地人を操る偽シンクタンクと7人の架空記者

ロシア発の作戦は「Dark Clark」と命名されました。工作員はロシア国内からVPN経由でアクセスし、主にロシア語で指示を出していました。彼らは中南米で「社会調査センター（SRC）」と名乗る偽のシンクタンクを設立していました。

驚くべきは、AIで生成した低品質な記事を投稿するのではなく、事情を知らない中南米の現地人を雇用して記事を書かせていた点です。工作員は「Mia Clark」という架空の人物になりすまし、採用や給与決定を行いながら、実在の従業員にオリジナル記事を執筆させていました。さらにアルゼンチンのミレイ大統領が愛犬にカルティエの首輪を買ったというデマを流したり、ブエノスアイレスで反ミレイの落書きを有料で現地人に描かせたりしていました。この活動は、民間軍事会社ワグネル創設者に関連する組織の後継とされる「Politology」との関連が指摘されています。

一方、イラン側の作戦「Bogus Bylines」は、7人の架空記者を仕立て上げました。ペルシャ語でChatGPTに長文記事を書かせ、世界中の中小メディアに寄稿を持ち込んでいました。米フロリダ州の地方紙にも架空記者の署名記事が掲載されたと報じられており、民間受託型の請負工作だったとみられています。

興味深いことに、両陣営ともChatGPTを最も多用していたのは対外的な情報発信ではなく、上司への内部活動報告書の作成でした。自身の成果を誇張するためにAIを使っていた形です。

なぜ重要か

SNS上のスパムボットが検知されやすくなった結果、影響工作の主戦場が「既存メディアへの潜入」に移っていることをこの事例は示しています。

地方紙や専門誌に一度掲載されてしまえば、虚偽の主張は正当なニュースとして流通し、その拡散力と信頼性は跳ね上がります。生成AIは新しいプロパガンダの手法を生み出したわけではありませんが、語学力や文章作成能力の壁を取り払い、ペルソナの維持コストを極限まで引き下げました。

メディア側の視点で見れば、リソースが不足している地方紙の査読体制が重大な脆弱性になっています。流暢なAI生成原稿を見分けるハードルは極めて高くなっています。

OpenAIによる公開とアカウント遮断は、正体がバレると価値を失う偽装工作に対して有効な打撃になります。しかし、VPNと偽名アカウントを使えばいくらでも再参入できるため、モデル提供側の遮断だけではこの手の代行ビジネスを根本から根絶するのは難しいと考えられます。