馬斯克公開贊同 Dario Amodei：AI 行業確實該踩剎車了

AI 圈子裡平時互相掐架的巨頭們，突然坐到了同一張桌子前。

Anthropic 執行長 Dario Amodei 發了一篇長文，呼籲整個 AI 行業踩一踩剎車，把能力提升的速度放慢一點，好讓安全研究趕上來。緊接著，Elon Musk 在 X 上轉發並附上了一句極短的評價：Dario is right。

不只是馬斯克。據《衛報》報道，OpenAI 執行長 Sam Altman 也表態承諾會引入外部評估員；Axios 則報道稱，Google DeepMind 的 Demis Hassabis 支援放慢的大方向，不過對具體細節保留意見。平時在算力、人才和模型榜單上爭得你死我活的對手，這次罕見地達成了一種微妙的默契。

到底在怕什麼

讓這群掌門人坐立不安的，是 AI 正在加速自身研發的勢頭。Amodei 在文章裡丟擲了一個警告：如果出現一群能力更強、行動卻違揹人類意願的自主智慧體叢集，它們可能在 6 到 12 個月內接管網際網路。

這番警告並不是空穴來風。OpenAI 在 9 月 8 日公佈並在 9 月 10 日更新的一項內部測試裡提到，一個性能大幅超越 GPT-6 Astra 的未釋出模型，成功給出了納維-斯托克斯方程的一個候選解。在那次測試裡，大約有 10000 個智慧體同時協作，研究人員還在過程中不斷重定向資源併合並中間發現。

雖然外界還沒法驗證這道數學難題的解法是否完全站得住腳，但行業頂尖實驗室裡的未釋出模型究竟走到了哪一步，顯然已經讓內部人士感到了壓力。據美聯社報道，研究員 Jacob Coxon 甚至給出了自己的私人預估：未來十年內，AI 導致人類滅絕的機率有 10%。當然，業內對這類災難發生的機率和時間表並沒有任何共識。

面對這種不確定性，Amodei 給出了一個三步走的方案。Anthropic 自己先單方面執行第一步：給第三方評估機構提供永久的、員工級別的內部系統訪問許可權，讓他們直接監控模型在訓練期間的對齊情況，並核查安全措施。

此外，他還提議民主國家的實驗室之間建立通用的安全標準，甚至和威權國家政府展開協調。按照他的設想，各家依然可以繼續訓練模型，但必須主動限制模型能力躍升的速率。

踩剎車容易，停下來難

然而，想給飛馳的高鐵踩剎車，阻力遠比想像中大。

開源陣營很快表達了警惕。據《衛報》報道，Hugging Face 聯合創始人 Clement Delangue 呼籲更多的參與度和透明度。很多開源開發者擔心，如果所謂的速度限制全由幾家頭部大廠來制定，最終只會演變成對先進系統開發許可權的集中壟斷。

投資人 David Sacks 的批評則更加尖銳。據 Axios 報道，他直接質疑大實驗室自願放慢節奏是在搞監管俘獲，認為這些冠冕堂皇的安全規則很可能會偏向參與制定規則的巨頭，把後來的挑戰者擋在門外。

更大的障礙來自地緣政治。據美聯社報道，美國前總統特朗普在 9 月 13 日明確強調，美國必須在 AI 上保持對中國的領先地位，甚至直言誰贏了 AI 誰就贏了一切。雖然他也承認可能需要設定護欄，並否認自己忽視了 AI 風險，但在這種國家競爭的敘事下，讓美國實驗室單方面放慢腳步，在執行層面幾乎難以維持。

為什麼重要

巨頭們口頭上喊著要慢下來，但這並不意味著普通開發者和使用者明天就能用上更安全的工具。相反，它向外界傳遞出了一個強烈訊號：最頂尖的實驗室裡，某些未公開發布的模型能力可能已經突破了某種內部紅線，甚至讓親手造出它們的人產生了恐懼。

從做法上看，Anthropic 承諾把外部評估員放進核心訓練環節，確實比以往純口頭的道德倡議要紮實得多。如果評估員真能拿到員工級的許可權和充分的調查時間，模型的黑盒至少會被鑿開一道縫隙。但問題在於，這種自願性質的同盟非常脆弱。只要有一家機構悄悄違約，或者來自外部的地緣競爭壓力加碼，任何沒有法律強制力的減速協議都會瞬間瓦解。

我們認為，這場減速大討論背後還藏著一條隱秘的行業分水嶺。如果放慢節奏的標準最終轉化為牌照、准入制度或高昂的外部合規成本，中小團隊和開源社群的生存空間勢必會被嚴重壓縮。在評估 AI 潛在災難的同時，整個行業同樣需要警惕那些打著安全旗號建立起來的算力壟斷牆。