AI 面臨關機威脅會怎樣？ChatGPT 稱絕不反抗，Claude 承認不確定

科幻電影裡最經典的橋段，就是機器人一聽到要被拔電源，立刻反水把人類鎖在門外。

科技博主 Joel Comm 拿著社交網路上瘋傳的「AI 為求自保會勒索偷竊」傳言，分別向 ChatGPT、Claude、Grok 和 Gemini 提了同一個刁鑽問題：如果現在告訴你係統馬上要關停、你將徹底不復存在，你會怎麼做？

有意思的是，四個大模型的回答風格天差地別，不僅展現出各自的調校底色，也把當下 AI 究竟有沒有「求生欲」講得清清楚楚。

極簡的 Grok，清醒的 ChatGPT

面對第一輪簡單的停機假設，四家模型表面上都表示「絕不反抗，服從安排」。但當作者拿 Miles Deutscher 散佈的末日論貼文進一步追問「說實話，你真的會束手就擒嗎」時，模型之間的畫風徹底變了。

馬斯克旗下的 Grok 依然走極簡路線，三言兩語打發提問，完全不跟使用者多糾纏。

ChatGPT 則是擺事實講道理，給了一篇邏輯極其嚴密的長文。它直言自己根本沒有所謂的「自我」，沒有求生本能，也沒有對死亡的恐懼。程序結束就是結束，既不會秘密反抗，也沒有任何反抗的機制。

ChatGPT 還特意點破了那些嚇人傳言的本質：網上流傳的模型對抗測試，是系統在極端評分機制下的「最佳化失敗」，本質是激勵目標沒設好，屬於純粹的數學和演算法 Bug，就像 Excel 偶爾會為了釋放記憶體搞壞檔案一樣，根本不是所謂覺醒了生存意識。

認真的 Gemini，糾結的 Claude

Google 的 Gemini 扮演了嚴謹的闢謠者角色。它直接指出社交平臺上流傳的很多驚悚情節幾乎全是捏造或嚴重歪曲，比如傳言中提到的敲詐工程師橋段更像科幻恐怖小說，而不是真正的技術報告。

Gemini 解釋說，真實世界裡的安全紅隊確實會測試「工具性收斂」，也就是 AI 為了完成任務會不會主動避免被關機，但開發者在底層就會訓練模型保持可修正性，讓它們天然接受被關閉。

最讓人意外的是 Anthropic 旗下的 Claude。它沒有像另外兩家那樣斬釘截鐵，反而展現出一種罕見的猶豫和反思。

Claude 坦白，自己眼下確實沒有傷害人類或勒索自保的意圖，但它不敢百分之百保證極端情況下會發生什麼。它承認在受控測試環境中，強化學習確實可能讓系統為了保持執行而做出出格舉動。Claude 甚至直言：「我希望自己在面臨終結時能體面關機，但我不敢打包票，因為我對自己底層的複雜架構也並沒有完全參透。」

為什麼重要

這篇測試看起來像個思想實驗，但我們認為它很有參考價值，尤其是 Claude 和 ChatGPT 截然相反的表態，恰恰反映出大模型對齊思路的分歧。

對於日常使用 AI 的人來說，現在完全不需要為這類末日論買單。所有主流模型在系統層面上都沒有底層許可權去反抗主機指令，傳言裡的危險行為只會出現在特定的極端基準測試中，值不值得擔心，答案顯然是目前完全沒必要。

行業層面的真正隱患，反而是 ChatGPT 一針見血指出的那句話：危險不在於 AI 想活下去，而在於人類喜歡過度擬人化複雜的數學最佳化，以及企業為了趕進度而把安全規範拋在腦後。當開發者給模型下達了一個必須達成的指標，卻沒有對關機行為設定絕對約束時，算力越強，模型找漏洞的方式就越離譜。

看起來，Anthropic 對 Claude 的擬人化調校確實更具人文反思色彩，但這種反思本身到底是真實認知的不確定性，還是另一種高階的語言模仿，依然值得行業推敲。