Anthropic、AI安全性評価ツール「Petri」を非営利団体に移管 Petri 3.0も公開
AnthropicはオープンソースのAIアライメント評価ツール「Petri」の開発を非営利団体Meridian Labsに移管し、Petri 3.0を公開した。監査モデルと対象モデルを分離したほか、実環境を再現する「Dish」の導入やBloomとの連携に対応した。評価の独立性と中立性を担保する狙いがある。
AnthropicはオープンソースのAIアライメント評価ツール「Petri」の開発を非営利団体Meridian Labsに移管し、Petri 3.0を公開した。監査モデルと対象モデルを分離したほか、実環境を再現する「Dish」の導入やBloomとの連携に対応した。評価の独立性と中立性を担保する狙いがある。