首爾 AI 峰會達成新協議：16 家頭部企業簽署安全承諾

半年前在英國布萊切利園，大家還在爭論 AI 到底會不會毀滅人類。半年後到了首爾，各大科技巨頭終於坐下來簽了一份白紙黑字：如果風險兜不住，新模型就別發了。

由英國和韓國聯合主辦的人工智慧峰會在首爾開幕。這次峰會最引人注目的成果，是 16 家全球頂級 AI 公司共同簽署了一份前沿 AI 安全承諾。

風險兜不住，寧可不發

這 16 家公司幾乎覆蓋了全球最核心的生成式 AI 玩家。名單裡不僅有 OpenAI、Google、Meta、微軟、Anthropic、xAI 和亞馬遜，還包括阿聯酋的 Technology Innovation Institute，以及來自中國的智譜 AI。

根據英國政府的宣告，這些公司達成了一項前所未有的共識：如果緩解措施無法將風險控制在特定閾值以下，就完全不開發或不部署相應的模型與系統。

英國首相蘇納克評價說，來自全球這麼多不同地區的頂尖 AI 企業就同一份安全承諾達成一致，這在世界上還是頭一次。核心目的就是讓這些公司在開發前沿 AI 時，拿出透明度和問責制。

除了商業巨頭表態，政府層面也拉起了安全網。包括美國、英國、日本、韓國、新加坡、澳大利亞、加拿大、德國、法國、義大利以及歐盟在內的 10 國加歐盟，簽署了一項新協議。

他們打算組建一個類似英國 AI 安全研究所的國際研究網路。上個月美英兩國剛剛達成了安全測試合作的備忘錄，這次則是把機制直接擴成了 11 方多邊聯動，在測試標準和安全研究上對齊腳步。

在首日由蘇納克和韓國總統尹錫悅主持的線上領導人會議上，各方還簽署了範圍更廣的《首爾宣言》，強調在以人為本、值得信賴和負責任的前提下，靠 AI 解決全球問題和彌合數字鴻溝。

為什麼重要

我們認為，這份承諾最大的亮點不在於技術指標，而在於它終於給狂奔的 AI 競賽立了一條紅線：如果越界，就得按下暫停鍵。

對普通開發者和終端使用者來說，這並不意味著 AI 進化會變慢。恰恰相反，當頂級大廠必須公開安全閾值和測試標準時，未來流入市場的開源權重或商業 API，在越獄防護、惡意利用等方面的底層兜底會更讓人放心。

更微妙的看點在於地緣與生態協同。把 OpenAI、Meta 和智譜 AI 放在同一份承諾名單裡極其罕見。AI 模型的安全風險沒有國界，如果只有歐美公司單方面踩剎車，安全承諾很快就會淪為空話；多方入局，至少讓安全共識多了一層保障。

不過，我們覺得這件事最大的隱患在於缺乏牙齒。什麼是「風險閾值」？由誰來定義這個紅線？這些細則在自願性承諾里依然模糊。在商業競爭白熱化的今天，如果一家公司認為自己快要被對手甩開，它是否真的願意主動封印自家未達標的模型，看起來依然要畫一個大大的問號。