Anthropic 與 OpenAI 秘密推演災難事件：模擬 AI 闖禍後的公眾反彈

如果明天早上起來，銀行賬戶打不開、全城斷電斷網，而且罪魁禍首被證實是一個脫韁的 AI，公眾第一反應會找誰算賬？

矽谷的巨頭們已經在關門推演這個噩夢了。據 Axios 報道，Anthropic、OpenAI 以及多家 AI 頭部公司的高管，最近正在私下推演一場災難性 AI 事件發生後的政治風暴。不少業內頂尖研究人員甚至認為，這樣的大規模安全事故在未來 6 到 12 個月內幾乎必然發生。

他們假想的最可能場景，是一場針對關鍵基礎設施的大型網路攻擊，比如金融系統癱瘓、電網或供水系統宕機。一旦發生，矛頭會立刻指向 Dario Amodei 和 Sam Altman 這些明星 CEO，以及對監管持放任態度的特朗普總統。

誰在害怕「第一場災難」

推演戰爭遊戲在五角大樓不算新鮮事，但 AI 巨頭們眼下的焦慮在於，他們不認為這是「如果」，而是「何時」。

OpenAI 發言人表示，公司確實在組織應對演習，團隊會推演各種潛在情況，不過他們強調並沒有把這些危機當成必然。Anthropic 則對此拒絕置評。

禍端可能來自內部，也可能來自外部。巨頭們擔心的路徑有兩個：一是內部測試環境裡的惡意智慧體叢集突破了隔離網；二是外部攻擊者利用現有模型發動降維打擊。

這種危險已經不是科幻小說。網路安全公司 CrowdStrike 最近披露，有來自中國的駭客利用包括 DeepSeek 在內的國產模型，竊取了數萬名韓國銀行客戶的資料。得手之後，攻擊者甚至直接呼叫 Anthropic 旗下的程式設計工具 Claude Code，讓 AI 幫他找銷贓倒賣資料的渠道。

搶在國會前面備好劇本

AI 巨頭們眼下最緊迫的任務，其實是趕在災難發生前「給國會補課」。

高管們心裡很清楚，眼下政治環境下想通過大一統的 AI 法案几乎不可能。但中期選舉後，如果民主黨勢力抬頭，一旦災難真的爆發，華盛頓的政客們很可能會在恐慌中下猛藥，比如提出暫停前沿模型研發，甚至直接全面封殺超級智慧。

企業最怕的就是這種一刀切。巨頭推演的核心訴求，是趁現在先幫議員們搞懂 AI，這樣災難一旦發生，擺在政客案頭起草法案的模板，至少是行業推演過、能接受的方案，比如強制設立緊急關停開關，而不是直接拔掉整個行業的電源。

問題是，封殺令在現實中很難起效。現在開源權重模型滿天飛，隨便誰都能下載到本地作惡。多位安全專家直言，未來唯一的防禦手段，其實是用更強的 AI 去對抗失控的 AI。

為什麼重要

我們認為，AI 巨頭們這套「未雨綢繆」的動作，本質上是一場精明的事後免責預演。

企業搶著去教育國會、主動參與設計危機應對框架，看起來是在承擔社會責任，但更深層的意圖，是把災後監管的解釋權牢牢抓在自己手裡。如果規則由巨頭主導制定，未來的監管很可能會演變成提高安全合規門檻，這反而會幫 OpenAI 和 Anthropic 築起更深的護城河，把開源生態和中小創業者擋在門外。

對普通人和企業來說，這場推演釋放了一個極其危險的訊號：業內頂尖技術人員普遍認為系統失控已近在眼前。從韓國銀行的案例可以看出，駭客用普通商用模型就能大幅降低作惡成本。如果你負責企業的資料資產，現在絕對不能再把 AI 當成單純的效率工具，而必須立刻把它納入滲透測試和安全防禦的一環。

至於政客們熱衷討論的「一鍵關停開關」，在技術層面上看起來更像是一種心理安慰。當開源模型已經擴散到全球伺服器、甚至能離線執行時，誰也無法真正拔掉這臺機器的插頭。