Anthropic 捐贈對齊測試工具 Petri:交由獨立機構,釋出 3.0 版本
Anthropic 宣佈將開源 AI 對齊測試工具箱 Petri 移交給評估非營利機構 Meridian Labs,並更新至 Petri 3.0。新版本拆分了審計與目標模型,引入「Dish」外掛模擬真實部署環境,並整合深度評估工具 Bloom。此舉旨在確保對齊測試的獨立與中立。
Anthropic 宣佈將開源 AI 對齊測試工具箱 Petri 移交給評估非營利機構 Meridian Labs,並更新至 Petri 3.0。新版本拆分了審計與目標模型,引入「Dish」外掛模擬真實部署環境,並整合深度評估工具 Bloom。此舉旨在確保對齊測試的獨立與中立。
Anthropic 開源自動化安全審計工具 Petri,通過部署智慧體模擬多輪真實對話,快速探測大模型是否存在欺騙、自保或越權等失準風險。首期評測了 14 款前沿模型,Claude Sonnet 4.5 綜合風險評分最低,略勝 GPT-5。工具支援主流模型 API,旨在幫研究者擺脫繁重的人工測試。