本文へスキップ
IFAI

AIモデル

Anthropic、Claude Mythos 5の防御機能を拡大 3500万ドルのOSS基金も設立

公開 拡散指数 50

Anthropicは最上位モデル「Claude Mythos 5」を企業向けClaude Securityに導入し、コードの脆弱性スキャンとパッチ提案の提供を開始した。あわせてOSS支援に3500万ドルのクレジットを提供する基金を新設。悪用を防ぐため、直接対話ではなく修正案などの防御成果物のみを出力する形で安全に提供する。

Anthropic、Claude Mythos 5の防御機能を拡大 3500万ドルのOSS基金も設立
画像:claude.com

フロンティアAIモデルの進化に伴い、サイバーセキュリティの領域では「脆弱性を発見する能力」と「攻撃コードを作成する能力」が表裏一体となる問題が深刻化しています。

Anthropicは8月21日、最上位モデルであるClaude Mythos 5を防御者向けに展開する新たな取り組みを発表しました。企業向けスキャン機能への統合に加え、オープンソースソフトウェア(OSS)保護のために3500万ドルのクレジットを提供する基金を設立します。

対話型アクセスを制限し、修正パッチのみを出力する仕組み

AIモデルをセキュリティに活用する際、最もリスクが高いのはユーザーがモデルと直接対話できる環境です。攻撃者がプロンプトを工夫して悪意あるエクスプロイトを生成させようとするためです。

Anthropicはこの問題に対し、モデルの出力を防御目的に限定するアプローチを取りました。Claude Enterpriseユーザー向けにパブリックベータとして提供されているClaude SecurityにMythos 5を統合し、リポジトリのスキャンを実行できるようにしました。

Mythos 5はコードベースの脆弱性を検出し、CWE分類、信頼度スコア、重大度、そして推奨される修正パッチを返します。ユーザーがこのパッチを適用する際はClaude Code経由で行いますが、人間のエンジニアによるレビューと承認が必須とされています。利用料金は既存プランの通常トークン消費として計算され、追加費用はかかりません。

オープンソース支援に3500万ドルの計算資源

世界のインフラの多くは有志が維持するオープンソースソフトウェアに依存していますが、保守担当者のリソース不足は深刻です。

Anthropicは新たにDefender Advantage Fund(0xDAF)を立ち上げ、3500万ドル相当のClaudeクレジットを提供します。支援対象は、広く使われているプロジェクトの脆弱性修正、スキャンとパッチ適用の自動化、そして根本的なセキュリティ向上に取り組む組織です。

あわせて、事前審査を受けた正当な防御チームに対してガードレールを緩和する「サイバー検証プログラム」も拡張され、今後数週間でMythosクラスのモデルへのアクセスが順次提供される予定です。

なぜ重要か

AIによるサイバー戦は、攻撃者がモデルを悪用する前に防御側がどれだけ先手を打てるかという時間の勝負になっています。

エンタープライズの現場にとって、最高精度のモデルを使ってリポジトリの脆弱性検出から修正パッチ作成までを一気通貫で進められるメリットは大きいです。ただし、AIが提案するコードが新たな問題を引き起こさないか確認する人間のレビュー体制は依然として欠かせません。

モデルとの自由な対話を遮断し、「修正パッチの出力」という防御結果だけを取り出す設計にした点は、実用性と安全性を両立させる巧みな判断だと評価できます。

さらに、3500万ドルのクレジットを通じてオープンソースエコシステムの防衛に乗り出したことは、社会的な脆弱性を塞ぎつつ、セキュリティ基盤としてのClaudeの立ち位置を強固にする一手と言えます。

情報源 (1)

  1. [1]
    claude.com(新しいタブで開きます)原文claude.com

毎日のAIピックアップ