Anthropic、Claudeの悪用事例を公開：ボット軍団の指揮やマルウェア開発に転用

SNSで大量にばらまかれる bot の投稿といえば、少し読めば不自然さがわかる定型文というイメージがありました。しかし、その手口は急速に進化しています。

Anthropic は、同社の AI モデル「Claude」の悪用事例に関する調査報告を公開しました。攻撃者たちはもはや AI を単なる文章生成ツールとしてではなく、bot 群の行動を指揮する「現場監督」として使い始めています。

AI に「いいね」や返信のタイミングを判断させる世論工作

報告の中で最も注目を集めたのが、有料で世論誘導を請け負う「サービスとしての影響力工作」の実態です。

このグループは X や Facebook 上で 100 を超える bot アカウントを運用し、複数国のクライアントのために政治的な主張を拡散していました。各アカウントには明確な政治的ペルソナが設定されていました。

極めて狡猾だったのは、拡散や炎上を狙わなかった点です。彼らは Claude を司令塔として使い、一般ユーザーの投稿に対して「いいね」を押すべきか、リポストするか、反論のコメントをつけるか、あるいは無視すべきかを判断させていました。この結果、数万人の本物のアカウントに自然に溶け込むような長期的な世論工作が行われていました。

詐欺文面のロンダリングからマルウェア開発まで

悪用は世論工作にとどまりません。

東欧の求職者を狙った求人詐欺では、不自然な英語で書かれた文面を Claude に修正させ、ネイティブが書いたような信頼できるスカウト文や面接の質問へと仕立て上げる手口が確認されました。いわば AI による「言語ロンダリング」です。

さらに、流出した IoT 監視カメラの認証情報を収集するためのスクレイピングツールの改修や、プログラミング経験の乏しい初心者が Claude の助けを借りて顔認識機能やダークウェブ検索を備えたマルウェアを作り上げた事例も報告されています。幸いにも、これらの技術的攻撃による実被害は確認されておらず、該当アカウントはすでに停止されています。

なぜ重要か

この報告が示しているのは、悪用のフェーズが「コンテンツの生成」から「自律的な意思決定の委託」へと移行しているという現実です。

従来のスパム対策は、文章の重複や投稿頻度の異常を検知することに頼っていました。しかし、AI が状況を判断して自然に振る舞うようになると、これまでの防壁は通用しなくなります。今後エージェント型の AI が普及するにつれて、こうした水面下の世論操作はさらに巧妙化していくと考えられます。

一般のユーザーにとっても、SNS で自然な議論を交わしている相手や、丁寧なメッセージを送ってくる海外の採用担当者が、実は AI のペルソナだったというリスクはすでに現実のものです。

被害が出る前に手口を公開した Anthropic の姿勢は評価できます。一方で、コードの修正や英文の添削といった機能は、本来きわめて日常的で正当な用途です。善良なユーザーの利便性を損なわずに悪意ある意図だけを弾く難しさを、今回の事例は浮き彫りにしています。