Anthropic、外部監査チームに「社員並み」の内部アクセス権を付与

AI開発企業がこれまで行ってきた安全性評価は、いわば出題範囲をあらかじめ限定した公開テストのようなものでした。自社で用意したレポートを外部に見せ、形式的な承認を得るやり方が大半を占めていました。

Anthropicはその慣習に風穴を開けようとしています。同社はAI安全性を研究する非営利団体METRのスタッフ6名に対し、自社のリスク評価チームとほぼ同等となる従業員レベルの内部アクセス権を付与したことを明らかにしました。

外部の監査人を社内に常駐させる試み

今回の取り組みにおいて、METRのメンバーにはAnthropicの社用PCやオフィススペース、内部ツールへのアクセス権が提供されます。顧客データや弁護士・依頼者間の秘匿特権情報、モデルアーキテクチャそのものといった限定的な例外を除き、Anthropicの社員は自社のアライメント担当者と同じように彼らと情報共有することが推奨されています。

注目すべきはレポートの公開権限です。METRはAnthropicのリスク評価や社内事例、安全対策に関する分析結果を独自に公開します。Anthropicにはその公開を差し止める拒否権はありません。

機密保持の観点から事前に定義された特定情報の黒塗り（非公開化）を求める権利はAnthropic側に残されていますが、METR側はその黒塗りが妥当であったかどうかについて、公開の場で自身の見解を表明する権利を保持しています。

Anthropicはこの仕組みを銀行監督における常駐検査官に例えています。外部からでは実態が見えにくい巨大銀行のリスクを把握するため、規制当局の検査官を行内に常駐させる制度と同じ発想です。

段階的な3層アクセスモデル

この従業員同等の権限は誰にでも与えられるわけではありません。Anthropicは評価機関向けに3段階のアクセス枠組みを構築しており、METRはその最上位である第3層に位置する最初の組織です。

第1層は、特定の狭い範囲でのみ調査を行い、調査範囲の決定やレポート公開にAnthropicの承認が必要な段階です。生物兵器などのリスクを検証する非営利団体SecureBioが現在この第1層で8月のリスクレポートの検証を進めています。第2層になると、より広範な情報にアクセスでき、承認なしで結果を公開できるようになります。

Anthropicは現在、アクセンチュアやFacultyとの提携作業を進めているほか、Hugging Faceとも初期段階の協議を行っていると述べています。8月下旬以降、AIエージェントの暴走や指示外行動の事例が相次いで報告されており、ホワイトハウスでの安全協定締結もあって独立した第三者評価の必要性が急速に高まっていました。

なぜ重要か

私たちは、この動きがAI業界のガバナンス競争において極めて巧妙な先手を打ったものだと評価しています。

これまでどのフロンティアモデル企業も自社レポートで安全性をアピールしてきましたが、自作自演との疑念を払拭できませんでした。社外の非営利団体にPCを渡し、拒否権なしでレポートを出させるという踏み込み方は、OpenAIやGoogleなどの競合他社に対しても同レベルの公開性を迫る強い圧力になります。

ただし、懸念がないわけではありません。どこまでがモデルの機密アーキテクチャで、どこからが検証すべきリスクなのかの境界線は曖昧であり、最終的な黒塗りの判断権はAnthropicが握っています。METRに不服を公表する権利があるとはいえ、企業利益と安全性の板挟みになった際にこの仕組みがどこまで機能するかは注視が必要です。

一般ユーザーや開発者にとっては、明日のClaudeの挙動が劇的に変わるわけではありません。しかし、モデルの脆弱性やエージェントの危険性に関して、企業の広報フィルターを通さない本音の情報開示が行われる土壌ができる価値は極めて大きいと言えます。