Anthropic、AI安全性評価ツール「Petri」を非営利団体に移管　Petri 3.0も公開

Petriは、大規模言語モデルに欺瞞や迎合、有害な指示への加担といった問題傾向がないかを素早く検証できるオープンソースのアライメント評価ツールボックスです。

仕組みはシンプルです。独立した「監査」モデルが評価用のシナリオを再現してターゲットモデルと対話し、そのログを別の「判定」モデルが採点して問題行動を検出します。Anthropic社内ではClaude Sonnet 4.5以降の全モデルの安全性評価に採用されているほか、英AI安全研究所もモデルがAI研究を妨害するリスクの検証にPetriを活用しています。

Petri 3.0の主な変更点

Petri 3.0では、柔軟性、リアリズム、評価深度の3点が強化されました。

従来の評価環境では、モデルがテスト中であることを察知して普段と違う振る舞いを見せる課題がありました。Petri 3.0で追加された拡張機能「Dish」は、本番環境で使われるシステムプロンプトやモデルを囲む実行ソフトウェアをそのまま適用し、実運用に近い環境を再現します。

アーキテクチャ面では、監査モデルと対象モデルを独立したコンポーネントに分離し、個別の微調整を可能にしました。また、特定挙動の深層分析を行うオープンソースツール「Bloom」との連携にも対応しています。

今回の更新に合わせて、AnthropicはPetriの開発管轄をAI評価の非営利団体Meridian Labsに移管しました。MCPをLinux Foundationに寄贈したのと同様に、特定企業から独立させることで評価の中立性と信頼性を高める狙いです。PetriはInspectやScoutと並ぶ評価スタックとして提供されており、導入手順はPetri公式サイトで確認できます。

なぜ重要か

オープンモデルをファインチューニングしている開発者や、自律型エージェントを本番運用するチームにとって、手軽に導入できる実践的な安全性検査ツールとして試す価値があります。

開発元自身が評価ツールを握り続けると中立性が問われがちですが、独立した非営利団体に移管した判断は賢明と言えます。業界全体や規制当局が安心して参照できる共通基盤として機能しやすくなるはずです。