Anthropicのセキュリティ特化AI「Mythos」に不正アクセス、外部ベンダー経由で流出か

Anthropicが危険すぎるとして厳重に囲い込んだサイバーセキュリティ向けAIモデルが、公開当日に部外者へあっさり使われていたことが明らかになりました。

問題となっているのは、Anthropicが発表したClaude Mythos Previewです。このモデルは企業セキュリティを強化するために設計されたものですが、同社自身が悪用されれば強力なサイバー攻撃ツールになりかねないと警告していました。そのため、Project Glasswingと呼ばれる限定的な取り組みを通じ、Appleなどごく一部の選定されたパートナー企業にのみ提供されていました。

しかしBloombergによると、身元が公表されていない私的なオンラインフォーラムのメンバーが、サードパーティのベンダー環境を経由してMythosへのアクセス権を獲得していたと報じられています。

URLの推測と業務委託先のアカウント

モデルにアクセスしたグループは、未公開のAIモデルを探し出すDiscordチャンネルのメンバーでした。

彼らは過去にAnthropicが他のモデルで使用したURLの命名規則をもとに、Mythosが配置されているオンライン上の場所を推測しました。さらに、Anthropicの業務委託先企業に勤める関係者のアクセス権限を併用することで、システム内への侵入に成功したといいます。

このグループはアクセス権を得て以来、Mythosを定期的に利用していました。証拠としてBloombergに対して操作画面のスクリーンショットを提示したほか、リアルタイムの実演デモまで披露しています。情報提供者は、目的は新しいモデルを触ってみたかっただけであり、混乱を起こす意図はなかったと説明しています。

Anthropicの広報担当者はTechCrunchに対し、委託先環境における不正アクセスの報告について調査中であると回答しました。現時点では同社本体のシステムが影響を受けた証拠は見つかっていないとしています。

なぜ重要か

私たちは、この一件が最先端AIにおける最大の弱点がどこにあるかを露呈させたと考えています。

Anthropicは業界内でも安全性を最優先する企業として知られています。Mythosが悪意あるハッカーの手に渡った場合のリスクを強調していたにもかかわらず、実際にはURLの規則性を読まれ、外部委託先のアクセス管理の隙を突かれるという極めて古典的な形で突破されてしまいました。

この出来事は、企業がAIを導入・検証する際のサプライチェーンセキュリティに対して大きな警鐘を鳴らしています。いくらモデル自体の出力制御やガードレールを固めても、テスト環境の権限管理や下請け業者の運用が杜撰であれば、防御壁は簡単に無効化されます。

今回は悪意のない愛好家グループによる実験にとどまったため実害は避けられたように見えますが、Anthropicにとっては運が良かったに過ぎません。最先端モデルの安全管理は、研究段階の理論だけでなく、現場の泥臭いアクセス管理を徹底できるかどうかにかかっています。