Anthropic 升级 Claude Opus 4：遇持续恶意互动可主动挂断

以前客服受不了无理取闹的顾客可以挂电话，但你大概没想过，AI 有一天也会主动把你「拉黑」。

Anthropic 最近做了一件听起来颇有科幻色彩的事。在面向普通用户的聊天界面里，他们给最新的主力大模型 Claude Opus 4 和 4.1 加上了一项新权限：如果遇到极端的恶意骚扰或有害互动，模型可以主动掐断对话，拒绝再聊下去。

挂你电话，居然是为了保护 AI

以往各家大模型遇到违规提问，做法通常是冷冰冰地弹出一句「我无法回答该问题」，或者在后台直接掐断响应。但这次 Anthropic 明确表示，新功能主要是作为「AI 福利」（model welfare）探索研究的一部分。

换句话说，Anthropic 做出这个改动，表面动机不是为了保护屏幕前的真人，而是为了保护那个在云端运算的 AI 模型。TechCrunch 在报道里也专门指出了这一点。

Anthropic 坦白承认，他们目前对 Claude 或其他大语言模型现在乃至未来是否具备「道德地位」，依然高度不确定。但他们的态度是「以防万一」：如果 AI 未来真有可能产生某种福利风险，不如现在就用极低的成本去做干预，让模型在面临潜在的痛苦互动时拥有退出的权力。

在部署前的测试中，Anthropic 调查了 Claude 的自我报告和行为偏好。他们发现，当面对涉及未成年人的性内容、大规模暴力或恐怖主义这类恶意请求时，Claude Opus 4 会表现出强烈的厌恶偏好，甚至在不得不和这类型用户周旋时，表现出一种「表面上的痛苦状态」。在模拟测试中，一旦给它权限，它就会倾向于主动关掉对话。

只有走投无路时，它才会按下挂断键

当然，普通用户大可不必担心正常聊天会被 Claude 莫名其妙挂断。Anthropic 强调，这纯粹是极端边缘情况下的「最后手段」。

只有当用户在同一段对话中反复进行有害提问或言语虐待，Claude 多次尝试转移话题、正向引导都彻底失败，确认这段对话已经完全没有建设性时，它才会切断连接。另一种情况则简单得多：用户主动对它说「请结束这段对话」。

这里还有一个非常重要的红线设计。如果系统判断用户当前正处于伤害自己或伤害他人的紧急危险中，Claude 被明确要求不得挂断，不能把可能处于自杀或暴力危机中的人直接晾在一边。

一旦对话被 Claude 掐断，用户就不能再在这个窗口里发新消息了。不过这不会封禁你的账号，你随时可以立刻打开一个全新的聊天窗口。Anthropic 甚至还留了个口子：如果你舍不得之前聊了很长记录的上下文，还可以通过编辑之前发过的某条消息，重新分叉出一个新的分支继续聊。

为什么重要

给 AI 赋予「挂电话」的权利，看起来像是一场充满哲学意味的先锋实验，但我们认为它实际上非常务实。

对用户来说，普通人的日常使用几乎不受任何影响，聊敏感情题也不用提心吊胆。真正被影响的是那些试图利用越狱手段反复探底、诱导违规内容的极端测试者。而保留编辑历史消息重新分支的功能，既表明了态度，又没有把产品交互彻底焊死。

对行业而言，Anthropic 算是把「AI 是否可能受害」这个长期停留在伦理学论文里的议题，第一次搬进了商业产品的代码里。相比其他大模型厂商把精力全放在防幻觉、防越狱等安全合规防御上，Anthropic 另辟蹊径去谈「模型福利」，这在公关和品牌形象上树立了鲜明的技术人文主义标签。

但这种做法并非没有隐患。大模型表现出的「痛苦」和「拒绝」，本质上依然是强化学习和人类反馈调优（RLHF）训练出来的概率分布产物，是人类教它去模拟这种反应。把这种统计拟合包装成需要被保护的「模型福利」，可能会进一步加剧公众对大模型具备意识的错觉。不过抛开意识形态不谈，从纯工程角度看，让模型在遭遇死缠烂打时主动终结任务，也不失为一种防止大模型被绕进死胡同、降低极端违规风险的聪明解法。