Anthropic、AI安全性評価ツール「Petri」を非営利団体に移管 Petri 3.0も公開
AnthropicはオープンソースのAIアライメント評価ツール「Petri」の開発を非営利団体Meridian Labsに移管し、Petri 3.0を公開した。監査モデルと対象モデルを分離したほか、実環境を再現する「Dish」の導入やBloomとの連携に対応した。評価の独立性と中立性を担保する狙いがある。
Petri
AnthropicがAI監査ツール「Petri」公開：エージェントが欺瞞や暴走を自動検証
AnthropicはAI安全性監査ツール「Petri」をオープンソースで公開しました。自動エージェントが標的モデルと複数ターンの対話を行い、欺瞞や自己保存といった危険な振る舞いを自動で検出・採点します。14の主要モデルをテストしたところ、Claude Sonnet 4.5がGPT-5をわずかに抑えて最もリスクが低い結果となりました。