Anthropic 捐赠对齐测试工具 Petri：交由独立机构，发布 3.0 版本

Petri 是一个开源的 AI 对齐测试工具箱，能帮你快速检测大语言模型是否存在欺骗、阿谀奉承以及配合有害请求等不良倾向。

它的工作原理并不复杂。系统会调用一个独立的「审计」模型来模拟各种刁钻的对齐测试场景，随后再由专门的「裁判」模型给对话记录打分，揪出潜在的越界行为。从 Claude Sonnet 4.5 开始，Anthropic 内部每个模型的对齐评估都用到了它。英国 AI 安全研究所也把它作为核心工具，用来评估模型是否会暗中破坏 AI 研究。

3.0 版本更新了什么

这次推出的 Petri 3.0 重点解决了三个问题：灵活度、真实感和检测深度。

过去模型在测试环境下很容易「察觉」到自己正在被考评，从而隐藏真实反应。为了解决这个问题，Petri 3.0 带来了一个叫「Dish」的扩展插件。它允许测试直接套用模型真实的系统提示词，以及实际部署时包裹在模型外层的软件脚手架，让评估尽可能贴近真实运行环境。

在架构上，新版把审计模型和目标模型拆分成了独立组件，开发者可以按需单独调整。此外，它还集成了 Anthropic 的另一款开源工具 Bloom，支持对选定的特定行为展开更深度的专项测试。

为了保证测试工具的中立性，Anthropic 这次把 Petri 的后续开发权完整移交给了 AI 评估非营利机构 Meridian Labs。就像之前把 MCP 捐给 Linux 基金会一样，这一步是为了让评测标准独立于任何单一商业公司。目前 Petri 已经加入 Meridian Labs 旗下的 Inspect 和 Scout 工具栈，具体的安装和上手文档可以直接在 Petri 官网查看。

为什么重要

如果你正在微调开源模型，或者在开发需要高度自主权的 AI Agent，Petri 3.0 是个非常值得接入的质检工具。它帮你把原本模糊的安全防线变成了一套可量化、可跑通的自动化测试流程。

由模型研发方主导的安全测试工具，往往很难摆脱「既当选手又当裁判」的嫌疑。Anthropic 把 Petri 移交给 Meridian Labs，看起来是个聪明的退让：不仅能让评估结果在行业和监管机构面前更有说服力，也让开源社区多了一套值得信赖的独立防线。