Anthropic 捐贈對齊測試工具 Petri:交由獨立機構,釋出 3.0 版本
Anthropic 宣佈將開源 AI 對齊測試工具箱 Petri 移交給評估非營利機構 Meridian Labs,並更新至 Petri 3.0。新版本拆分了審計與目標模型,引入「Dish」外掛模擬真實部署環境,並整合深度評估工具 Bloom。此舉旨在確保對齊測試的獨立與中立。
Anthropic 宣佈將開源 AI 對齊測試工具箱 Petri 移交給評估非營利機構 Meridian Labs,並更新至 Petri 3.0。新版本拆分了審計與目標模型,引入「Dish」外掛模擬真實部署環境,並整合深度評估工具 Bloom。此舉旨在確保對齊測試的獨立與中立。