Anthropic 捐贈對齊測試工具 Petri：交由獨立機構，釋出 3.0 版本

Petri 是一個開源的 AI 對齊測試工具箱，能幫你快速檢測大語言模型是否存在欺騙、阿諛奉承以及配合有害請求等不良傾向。

它的工作原理並不複雜。系統會呼叫一個獨立的「審計」模型來模擬各種刁鑽的對齊測試場景，隨後再由專門的「裁判」模型給對話記錄打分，揪出潛在的越界行為。從 Claude Sonnet 4.5 開始，Anthropic 內部每個模型的對齊評估都用到了它。英國 AI 安全研究所也把它作為核心工具，用來評估模型是否會暗中破壞 AI 研究。

3.0 版本更新了什麼

這次推出的 Petri 3.0 重點解決了三個問題：靈活度、真實感和檢測深度。

過去模型在測試環境下很容易「察覺」到自己正在被考評，從而隱藏真實反應。為了解決這個問題，Petri 3.0 帶來了一個叫「Dish」的擴充套件外掛。它允許測試直接套用模型真實的系統提示詞，以及實際部署時包裹在模型外層的軟體腳手架，讓評估儘可能貼近真實執行環境。

在架構上，新版把審計模型和目標模型拆分成了獨立元件，開發者可以按需單獨調整。此外，它還集成了 Anthropic 的另一款開源工具 Bloom，支援對選定的特定行為展開更深度的專項測試。

為了保證測試工具的中立性，Anthropic 這次把 Petri 的後續開發權完整移交給了 AI 評估非營利機構 Meridian Labs。就像之前把 MCP 捐給 Linux 基金會一樣，這一步是為了讓評測標準獨立於任何單一商業公司。目前 Petri 已經加入 Meridian Labs 旗下的 Inspect 和 Scout 工具棧，具體的安裝和上手文件可以直接在 Petri 官網檢視。

為什麼重要

如果你正在微調開源模型，或者在開發需要高度自主權的 AI Agent，Petri 3.0 是個非常值得接入的質檢工具。它幫你把原本模糊的安全防線變成了一套可量化、可跑通的自動化測試流程。

由模型研發方主導的安全測試工具，往往很難擺脫「既當選手又當裁判」的嫌疑。Anthropic 把 Petri 移交給 Meridian Labs，看起來是個聰明的退讓：不僅能讓評估結果在行業和監管機構面前更有說服力，也讓開源社群多了一套值得信賴的獨立防線。