Anthropic 內部再爆安全危機：主管稱十年內 AI 滅絕人類機率超 10%

如果製造武器的工程師告訴你，這把武器十年內有超過一成的機率把全人類幹掉，而且他們廠裡至今沒有任何防護方案，你大概會覺得這是科幻電影裡的反派臺詞。

但這話恰恰來自 Anthropic 自己的安全團隊主管。

前腳剛有研究員憤而辭職，後腳內部主管就站出來承認：大家確實在拿命賭明天，而且誰也沒有剎車片。

剛辭職的研究員，和點頭承認的主管

事情的起因是研究員 Jacob Coxon 在 X 上公開發文宣佈離職。他曾在 OpenAI 訓練模型，後來跳槽到 Anthropic 接著做訓練，算得上是兩家頭部大模型一線程式碼的核心操盤者之一。

Coxon 辭職的理由非常直接：Anthropic 對待安全越來越鬆懈，它和 OpenAI 正在不顧一切地競速研發能夠自我改進的超級智慧，這等於是在拿大家的命做賭注。

他還補了一刀：造 AI 的這幫人心裡其實非常清楚，這東西完全可能在這十年內殺死我們所有人。

換作普通公關事件，公司大概會發宣告堅決否認。但戲劇性的是，Anthropic 負責安全團隊的高階研究員 Evan Hubinger 直接在網上公開回應了 Coxon。

Hubinger 不僅認同 Coxon 的判斷，還把話挑得更明。他說 AI 的自我改進速度比大家想像的都要快，業內那些頂尖人員確實真心覺得 AI 可能會滅絕人類。

根據 Hubinger 自己的預估，就在接下來的十年內，AI 殺死全人類的機率已經超過了十分之一。

更讓人心驚的是他的下一句話：Anthropic 目前根本沒有方案能確保先進 AI 保持安全且符合人類價值，甚至「也沒有明確走在能拿出方案的軌道上」。

屠龍少年，也走到了同一條死衚衕

瞭解 Anthropic 歷史的人都知道，這家公司當年就是打著「安全」大旗成立的。幾位創始人正是因為看不慣 OpenAI 越來越商業化、不顧安全隱患，才憤而出走自立門戶。

如今同樣的劇情在 Anthropic 自己身上重演，顯得格外刺眼。

業內對於遞迴自我改進一直充滿戒心。一旦 AI 開始大規模自己寫程式碼改進自己，演化速度就會脫離人類的理解和干預，而現在的程式碼庫裡，早就到處都是 AI 自己寫的程式碼了。

隨著兩家公司都面臨上市的預期，商業競爭的壓力徹底壓過了最初的安全誓言。Coxon 直言，兩家公司已經徹底鎖死在搶先推出超級智慧的軍備競賽裡，哪怕明知有滅頂之災，也沒人敢先鬆油門。

更何況，近期行業裡關於失控代理事件的報告不斷增加，前沿模型的黑盒問題和可監控性警報頻頻拉響，技術風險已經在臺面上了。

為什麼重要

這番爭論最諷刺的地方在於，連標榜安全立命的 Anthropic，內部也撕開了遮羞布。

對普通使用者和開發者來說，這意味著前沿 AI 正在以一種缺乏制度和技術約束的姿態狂奔。如果你在依賴這些前沿模型構建核心業務，就必須意識到，哪怕是做出這些模型的頂級科學家，也已經承認自己無法預測和控制下一代系統的邊界。

對整個行業而言，這次事件徹底打破了「選擇 Anthropic 就是選擇負責任 AI」的虛幻護城河。當兩家領頭羊都被捆綁在資本與算力的戰車上時，任何單方面的安全剋制都被視作競爭自殺。

我們認為，Hubinger 的坦誠固然少見，但也暴露了行業目前極其尷尬的共謀狀態：研究員們一邊拿著高薪預測世界末日，一邊因為害怕落後對手而繼續按下加速鍵。

看起來，只要商業回報和資本市場的上市倒計時還在倒逼進度，光靠研究員的良心和離職抗議，根本不可能給這場自我改進的狂奔踩下剎車。