馬斯克與多位學者聯名呼籲：暫停訓練比 GPT-4 更強的 AI 六個月

科技巨頭們正忙著把大模型塞進各種軟體裡，另一群科技圈名人卻突然衝到臺前，想把電閘拉下來。

由非營利機構未來生命研究所發起的一封公開信，在科技圈掀起了軒然大波。信中呼籲全球所有 AI 實驗室立刻按下暫停鍵，至少在 6 個月內停止訓練比 GPT-4 更強大的 AI 系統。如果各家實驗室不能迅速達成共識，信中甚至建議各國政府出面強制叫停。

停工 6 個月，究竟要幹什麼

這封信的核心觀點很直接：各大實驗室已經陷入了一場失控的軍備競賽。大家都在爭相研發和部署連創造者自己都無法完全理解、預測或可靠控制的模型。

起草者認為，人類不應該在缺乏安全保障的前提下盲目狂奔。他們提議利用這半年的緩衝期，讓實驗室和獨立專家共同制定一套共享的安全協議，嚴格審計高階 AI 的研發流程，確保技術在投入使用前達到毫無疑問的安全標準。

現實中的安全隱患確實在加劇。歐洲刑警組織就在這週早些時候發出警告，指出 ChatGPT 這類高階 AI 可能被濫用於釣魚攻擊、散佈虛假資訊和網路犯罪。與此同時，微軟和谷歌等巨頭為了搶奪先機，正把安全審查放在次要位置，全面轉向「先上線再修補」的節奏。

上千人聯名，名單裡也有水軍

截至公開信發出時，聯名人數已經超過了 1000 人。名單裡的陣容堪稱豪華，既有圖靈獎得主 Yoshua Bengio、AI 學者 Stuart Russell 和 Gary Marcus，也有蘋果聯合創始人 Steve Wozniak、Skype 聯合創始人 Jaan Tallinn，以及寫出《人類簡史》的暢銷書作家 Yuval Noah Harari。

商界代表同樣不少，埃隆·馬斯克和 Stability AI 執行長 Emad Mostaque 都簽了名。有趣的是，信件還特別提到，就連 OpenAI 自己此前也承認過，未來更先進的系統可能需要引入獨立審查。

不過，這份聯名信的稽核機制顯然有點草率。由於開放公開簽署，名單裡一度混進了一些惡搞名字，比如直接把 OpenAI 執行長 Sam Altman 的名字填了上去，隨後不得不進行核實清理。

為什麼重要

對普通開發者和普通使用者來說，這封信短期內大機率不會改變任何事。你明天依然可以用到 GPT-4，市面上的各類 AI 工具也不會下架。但如果監管部門真的聽進去了信中的建議，未來獲取下一代模型 API 的門檻和審查流程，可能會變得漫長而苛刻。

對行業而言，這封信更像是一記政治訊號彈。它雖然缺乏實際的法律約束力，不太可能真的讓正處於白熱化競爭中的微軟和谷歌停下算力叢集，但它把行業內部對「先上線後治理」的反思直接送進了立法者的視線。歐美監管機構很可能會以此為契機，加速出臺針對基礎模型訓練的前置審批規則。

我們認為，呼籲建立獨立安全協議的想法很美好，但一刀切叫停 6 個月的提議在實操中幾乎沒有可行性。既然缺乏強制性的全球核查手段，遵紀守法的團隊停下來，很可能只是把先發優勢拱手讓給不在乎公開信的競爭對手。這場聯合發聲看起來更像是一次高調的公關施壓，逼迫大公司在瘋狂擴張時不得不分出一部分精力，來正面回答安全問題。