OpenAI、最新の脅威レポートを公開　攻撃者は複数のAIモデルを併用

単一のAIモデルに対策を講じるだけでは、悪質な世論工作やサイバー攻撃を防ぎきれない現実が浮き彫りになりました。

OpenAIは悪用阻止に関する最新の脅威レポートを公開しました。過去2年間のインテリジェンスをまとめたもので、悪意ある主体が特定のプラットフォームや単一のモデルに依存することは稀だと指摘しています。

複数モデルを使い分ける手口

報告によると、攻撃者はAIツール単体ではなく、Webサイトやソーシャルメディアなどの既存の手法と組み合わせて活動を展開しています。

具体的な事例として取り上げられた中国の影響力工作では、ワークフローの各工程で異なる複数のAIモデルを使い分けていたことが確認されました。OpenAIは業界全体での検知力を高めるため、これらの実態を共有したとしています。

なぜ重要か

1社が安全対策を強めるだけではエコシステム全体の悪用を防げないという、構造的な課題が示された格好です。

攻撃者が各社モデルを部品のように差し替えて使っている以上、単一サービスの利用規約違反でアカウントを止めても、ワークフロー全体は止まりません。AI各社やプラットフォームが枠組みを超えて脅威情報を共有しなければ、分断の隙を突かれ続けることになると考えられます。