Anthropic 呼籲全球暫停前沿 AI 研發：警告兩年內或失控

跑得最快的人突然拉住裁判，說比賽太危險，大家先歇歇。

Anthropic 在官方部落格發文，呼籲全球各大 AI 實驗室協調行動，暫時叫停或至少放緩前沿模型的研發步伐。提議來自它的內部研究負責人 Marina Favaro 和政策負責人 Jack Clark，理由聽起來頗為驚悚：AI 系統正在逼近所謂的「遞迴自我改進」。

兩年內自己寫程式碼進化？

所謂遞迴自我改進，說白了就是 AI 不用人管，自己寫程式碼來強化自己的能力，一輪接一輪地往上翻。

兩位作者承認這事目前還沒真正發生，現實中也並非百分之百會發生。但 Jack Clark 警告說，有些模型很可能在短短兩年內就能具備這種自我迭代的能力，到時現有的社會機制根本來不及反應。

Anthropic 覺得大家需要類似冷戰時期的核軍控協議，讓全世界喘口氣。但他們自己也承認，監控 AI 比監控核武器難得多。導彈發射井很難藏，但分散式算力、私有資料中心和演算法迭代，在電腦屏幕後就能悄悄推進。如果沒辦法落實鐵腕核查，甚至得不到中國等國家的配合，老老實實踩剎車的人只會把領先優勢拱手讓人。

是真怕失控，還是上市前的精明營銷？

這番警告剛發出來，外面的質疑聲就炸開了鍋。原因很簡單，Anthropic 最近剛敲定一輪 650 億美元的融資，估值直奔 1 萬億美元，本週剛向美國證券交易委員會遞交了上市申請，正跟 OpenAI 爭奪公開市場的霸主地位。

Enderle Group 分析師 Rob Enderle 就直接挑明，這與其說是行業自律，不如說是一場精心計算的戰略營銷。一方面，大國之間的經濟與安全利益太大，全球暫停根本行不通；另一方面，Anthropic 藉著宣傳自我改進的風險，正好向華爾街展示自己的技術已經領先到需要巨資來維持安全管控的程度。

知名投資人 David Sacks 此前也批評 Anthropic 是在搞監管俘獲，用末日恐慌來推動重稅和嚴苛法規，以此幹掉低成本的開源模型，保全自己的專有閉源技術。Constellation Research 分析師 Holger Mueller 則指出，遞迴進化的風險目前還停留在純理論階段，而且行業現在的算力缺口這麼大，AI 哪有那麼多算力去自己無限繁殖。把現狀凍結住，其實最有利於 Anthropic 穩固自己在企業級市場的領先地位。

面對質疑，Anthropic 旗下負責評估社會影響的機構 Anthropic Institute 表示，仍會繼續推動這場辯論，並嘗試設計可行的放緩與驗證機制。

為什麼重要

對普通使用者和開發者來說，這次表態倒不會立刻改變手頭工具的使用。你現在用 Claude 寫程式碼、做分析，一切如常。但如果這種呼籲真變成了政策落地，代價很可能會轉嫁到整個生態頭上，首當其衝的就是個人開發者最依賴的開源社群。

我們認為，Anthropic 這一步棋走得極其精明，但也埋下了不小的公關隱患。精明之處在於，它搶在 IPO 前夜把「最強模型」和「最負責任的安全守護者」兩張標籤同時焊死在自己身上。既秀了肌肉，又佔領了道德制高點，在資本市場非常受用。

但隱患也很刺眼。當一家商業公司手握萬億美元估值並準備上市時，它口中的「為了人類暫停」，看起來越來越像「你們先別動，等我把商業護城河挖好」。特別是在地緣博弈和算力軍備競賽白熱化的當下，單方面呼籲踩剎車既不現實，也很容易讓外界懷疑其真正的商業動機。