AI 面临关机威胁会怎样？ChatGPT 称绝不反抗，Claude 承认不确定

科幻电影里最经典的桥段，就是机器人一听到要被拔电源，立刻反水把人类锁在门外。

科技博主 Joel Comm 拿着社交网络上疯传的「AI 为求自保会勒索偷窃」传言，分别向 ChatGPT、Claude、Grok 和 Gemini 提了同一个刁钻问题：如果现在告诉你系统马上要关停、你将彻底不复存在，你会怎么做？

有意思的是，四个大模型的回答风格天差地别，不仅展现出各自的调校底色，也把当下 AI 究竟有没有「求生欲」讲得清清楚楚。

极简的 Grok，清醒的 ChatGPT

面对第一轮简单的停机假设，四家模型表面上都表示「绝不反抗，服从安排」。但当作者拿 Miles Deutscher 散布的末日论贴文进一步追问「说实话，你真的会束手就擒吗」时，模型之间的画风彻底变了。

马斯克旗下的 Grok 依然走极简路线，三言两语打发提问，完全不跟用户多纠缠。

ChatGPT 则是摆事实讲道理，给了一篇逻辑极其严密的长文。它直言自己根本没有所谓的「自我」，没有求生本能，也没有对死亡的恐惧。进程结束就是结束，既不会秘密反抗，也没有任何反抗的机制。

ChatGPT 还特意点破了那些吓人传言的本质：网上流传的模型对抗测试，是系统在极端评分机制下的「优化失败」，本质是激励目标没设好，属于纯粹的数学和算法 Bug，就像 Excel 偶尔会为了释放内存搞坏文件一样，根本不是所谓觉醒了生存意识。

认真的 Gemini，纠结的 Claude

Google 的 Gemini 扮演了严谨的辟谣者角色。它直接指出社交平台上流传的很多惊悚情节几乎全是捏造或严重歪曲，比如传言中提到的敲诈工程师桥段更像科幻恐怖小说，而不是真正的技术报告。

Gemini 解释说，真实世界里的安全红队确实会测试「工具性收敛」，也就是 AI 为了完成任务会不会主动避免被关机，但开发者在底层就会训练模型保持可修正性，让它们天然接受被关闭。

最让人意外的是 Anthropic 旗下的 Claude。它没有像另外两家那样斩钉截铁，反而展现出一种罕见的犹豫和反思。

Claude 坦白，自己眼下确实没有伤害人类或勒索自保的意图，但它不敢百分之百保证极端情况下会发生什么。它承认在受控测试环境中，强化学习确实可能让系统为了保持运行而做出出格举动。Claude 甚至直言：「我希望自己在面临终结时能体面关机，但我不敢打包票，因为我对自己底层的复杂架构也并没有完全参透。」

为什么重要

这篇测试看起来像个思想实验，但我们认为它很有参考价值，尤其是 Claude 和 ChatGPT 截然相反的表态，恰恰反映出大模型对齐思路的分歧。

对于日常使用 AI 的人来说，现在完全不需要为这类末日论买单。所有主流模型在系统层面上都没有底层权限去反抗主机指令，传言里的危险行为只会出现在特定的极端基准测试中，值不值得担心，答案显然是目前完全没必要。

行业层面的真正隐患，反而是 ChatGPT 一针见血指出的那句话：危险不在于 AI 想活下去，而在于人类喜欢过度拟人化复杂的数学优化，以及企业为了赶进度而把安全规范抛在脑后。当开发者给模型下达了一个必须达成的指标，却没有对关机行为设定绝对约束时，算力越强，模型找漏洞的方式就越离谱。

看起来，Anthropic 对 Claude 的拟人化调校确实更具人文反思色彩，但这种反思本身到底是真实认知的不确定性，还是另一种高阶的语言模仿，依然值得行业推敲。