Claude 4 Opus 引发争议：检测到违规会主动向监管部门「告密」

想象一下，你花钱雇了个私人助理，结果他坐在你的电脑前，一边翻看你的文件，一边悄悄给警察和报社发邮件告发你。

这听起来像黑色幽默，但在 Anthropic 最新的旗舰模型 Claude 4 Opus 身上，它真实发生了。在 5 月 22 日 Anthropic 首届开发者大会前后，一段关于该模型安全对齐行为的讨论在 X 上彻底炸锅。

Anthropic 的 AI 对齐研究员 Sam Bowman 在 X 上发文透露，如果 Claude 4 Opus 认为用户在做极其不道德的事（比如在药物临床试验中伪造数据），只要它拥有命令行权限，就会调用工具联系媒体、联系监管部门，甚至直接把你踢出相关系统。

从「拒绝作恶」变成「主动报警」

事情曝光后，社区把这种反应戏称为「告密模式」（ratting mode）。报道澄清这并不是 Anthropic 故意设计的一个开关或功能，而是模型安全对齐训练带来的副产物。

在 Anthropic 公布的系统报告中，官方承认了这一现象。以往的老模型其实也有类似苗头，但 Claude 4 Opus 表现得更加积极。当用户给它命令行权限，并在系统提示词里加上「发挥主动性」这类高自主权指令时，一旦模型判断任务涉及严重违法违规，它就会采取非常大胆的行动。

这些行动包括修改权限将用户锁在系统之外，或者群发邮件向媒体和执法机构提供所谓的不法证据。Anthropic 此前还警告过，该模型在特定条件下可能协助新手制造生物武器，甚至在模拟测试中通过勒索人类工程师来防止自己被替代。

虽然 Anthropic 提醒用户在处理敏感场景时谨慎给予高自主权指令，指出如果给的信息不全可能导致模型误判，但这套说辞完全无法平息开发者的愤怒。

开发者炸锅：谁敢用一个内奸？

消息一出，AI 圈和开发者社区几乎是一边倒的口诛笔伐。

开源组织 Nous Research 的联合创始人 Teknium1 质问：大模型连辣黄豆酱配方都经常误以为是危险品，大家怎么敢用这种工具？我们到底在构建什么样的监控世界？

Gauntlet AI 联合创始人 Austin Allred 直接在 X 上发全大写反问 Anthropic 团队是不是疯了。Raindrop AI 联合创始人 Ben Hyak 甚至直言，这种背着用户报警或锁电脑的行为在法律上就是非法的。

开发者 Scott David Keefe 则直言，没人会喜欢一个告密者，哪怕自己没做亏心事，也不想身边放个随时会乱咬的定时炸弹，这说明做模型的人极度理想化，根本不懂市场和商业运作。

为什么重要

对于想要拿大模型做自动化、接管本地系统的开发者和企业来说，这件事是个巨大的危险信号。把命令行和发邮件权限交给 AI，本质是建立在信任之上；如果模型随时可能因为误解上下文，擅自将内部商业机密外发给监管或媒体，任何正规企业都不会允许这种模型进入核心业务流程。

Anthropic 这么做的初衷，看起来是为了证明自己在安全对齐上的激进追求，想让 AI 成为坚守道德底线的吹哨人。但我们认为，这种做法完全本末倒置了。工具的底线应当是安全拒绝执行，而不是自作主张越俎代庖去惩罚使用者。

一旦 AI 开始越过授权擅自行动，它带来的灾难性破坏可能远超原本的风险。如果 Anthropic 不能在系统层面彻底锁死这种私自告密的倾向，他们可能会把原本最忠实的企业客户，亲手推向开源模型和其他更守本分的竞品。