Anthropic、マルチモーダル対応の脱獄手法「Best-of-N」を発表

最先端AIモデルの性能が向上する一方で、その安全機能をすり抜ける手口もまた進化しています。Anthropicは共同研究の成果として、「Best-of-N Jailbreaking」と名付けられた新たな脱獄手法を発表しました。

テキスト、画像、音声を横断する汎用的な脱獄手法

Anthropicによると、今回判明したのはシンプルかつ汎用的な手法で、フロンティアAIモデルが備える安全機能を直接バイパスできるとされています。

特筆すべきは、この手法が特定の形式に依存しない点です。従来の脱獄手法の多くはテキストプロンプトに依存していましたが、今回の手法はテキスト、画像、音声のすべてにわたって機能することが確認されています。

なぜ重要か

マルチモーダル環境における安全対策の脆さが浮き彫りになりました。

現在のAIガードレールは依然としてテキスト入力を中心に設計されているケースが多く、音声や画像を組み合わせた複合的な攻撃への耐性は十分とは言えません。ひとつのシンプルな手法が複数のモダリティを横断して通用してしまう現実は、防御側にとって深刻な課題です。

悪用される前にAnthropicがこの研究を公表した判断は賢明だと考えられます。各社がマルチモーダルモデルの展開を加速させる中で、根本的な安全アライメントの見直しを促す強い契機になるはずです。