Anthropicが脆弱性報奨金を開始：未公開Claudeの脱獄発見に最大2.5万ドル

Anthropicが、未公開の安全ガードレールを破ったセキュリティ研究者に最大2万5000ドルの報奨金を支払うプログラムを実施しました。

同社は脆弱性報奨金プラットフォームのHackerOneと提携し、最新の安全対策をストレステストする新たなバグバウンティプログラムを発表しました。対象となったのは、まだ一般公開されていない改訂版「Constitutional Classifiers（憲法分類器）」です。

CBRN兵器の脱獄に最高2万5000ドル

このプログラムで研究者たちに課された課題は、モデルの防御を恒常的に回避できる「ユニバーサルジェイルブレイク（汎用的な脱獄手法）」の発見です。

Anthropicが特に注視しているのは、化学・生物・放射性物質・核（CBRN）兵器に関連する情報の悪用につながる脆弱性です。これは、同社の「責任あるスケーリング方針」におけるAI安全レベル3（ASL-3）展開基準を満たすための重要な防衛線とされています。

招待された研究者には、未公開分類器を適用したClaude 3.7 Sonnetへの早期アクセス権が与えられ、検証済みのユニバーサル脱獄に対して最大2万5000ドルの報奨金が提示されました。

テストは即座にClaude Opus 4へ移行

Claude 3.7 Sonnetを対象とした初期募集は5月18日に終了しました。しかし、同社は防御テストの手を緩めていません。

Anthropicは5月22日付の更新で、本プログラムの参加者を新たなバグバウンティへ移行させたと発表しました。次のテスト対象は、新型モデル「Claude Opus 4」に組み込まれた憲法分類器システムです。

あわせて、ソーシャルメディアなどの公開プラットフォーム上で見つかった、ASL-3基準の重大懸念（生物兵器リスク等）に関わる脱獄報告の受付も開始しています。

なぜ重要か

自社開発した未公開モデルの安全ガードレールを、リリース前に外部のホワイトハッカーへ晒して叩かせる手法は、非常に堅実で賢明なアプローチだと評価できます。

セキュリティ研究者にとって、最大2万5000ドルの賞金以上に、未発表のClaude Opus 4といったフロンティアモデルに誰よりも早く触れ、最新の防御機構を検証できる実利は大きな魅力です。ただし、単なる暴言の引き出しではなく、再現可能な兵器関連の回避手順が求められるため、参入障壁は極めて高いと言えます。

業界全体にとっても、自社基準であるASL-3の実効性を第三者テストを通じて証明する動きは、他社に対する大きな牽制になります。「自社で安全を確認した」というレポートだけで済ませる時代から、外部監査と報奨金による実証がフロンティアモデルの標準運用になりつつあることを示しています。

一方で、バグバウンティだけに依存するリスクもあります。外部の攻撃者は報奨金を取りやすい既知のプロンプトインジェクション手法に偏りがちで、複雑なツール連携やマルチモーダルを介した未知の悪用経路を見落とす懸念は残ります。