數百位行業領袖聯名警告：應將防範 AI 滅絕風險列為全球優先事項

如果核戰爭和大流行病會讓人類滅亡，那麼 AI 也是同一個量級的存在。

這不是科幻小說作家的誇張修辭，而是全球最核心的那批 AI 掌門人和科學家集體簽下的一張警告信。組織這次聯名的是人工智慧安全中心，整份宣告短得不可思議，去掉標題其實只有一句話。

這行字寫得很直白：防範 AI 導致的人類滅絕風險，應當與應對大流行病、核戰爭等其他社會級風險一樣，成為全球的優先事項。

造錘子的人，開始害怕錘子太硬

這份宣告之所以震動全球，完全是因為名單裡坐著的都是真正把現代 AI 造出來的人。

圖靈獎得主 Geoffrey Hinton 和 Yoshua Bengio 都在上面。Hinton 不久前剛離開 Google，就是為了能放開手腳談論 AI 的潛在威脅。另一點陣圖靈獎得主 Joseph Sifakis 也在簽署名單裡。

更耐人尋味的是幾大頭部 AI 商業公司的掌門人全員到齊。OpenAI 執行長 Sam Altman、首席科學家 Ilya Sutskever 和技術長 Mira Murati 集體簽名。

剛把 DeepMind 和 Google 大腦合併的 Demis Hassabis 簽了，Anthropic 的創始人 Dario Amodei 和總裁 Daniela Amodei 簽了，微軟的技術長 Kevin Scott 和首席科學官 Eric Horvitz 也簽了，甚至還有蓋茨基金會的 Bill Gates。

不僅是歐美，來自中國的學者也出現在名單裡。清華大學智慧產業研究院院長張亞勤、中國科學院自動化研究所研究員曾毅，以及清華大學助理教授詹仙園都參與了聯名。

發起方解釋說，平時專家和公眾雖然都在聊 AI 風險，但真要公開談論「滅絕」這種極端後果，阻力依然很大。他們故意把宣告寫成短短一句話，就是為了消除門檻，讓大家形成一個共識：承認這個極端風險，並不是在危言聳聽。

為什麼重要

我們認為，這份宣告最大的意義在於它徹底重塑了關於 AI 風險的輿論水位線。

以往業界聊安全，焦點大多集中在虛假資訊、版權侵權、演算法偏見或者搶走打工人的飯碗上。這些當然都是迫在眉睫的問題，但這份宣告直接把討論的天花板拉到了「人類存亡」的生死線，還拉來了核武器和大流行病來做參照物。

看起來，這種做法非常聰明。它用最精煉的一句話繞過了所有技術細節上的爭論，讓持不同架構主張的學者、競爭關係的公司高管，都能在最低限度的共識上簽字畫押。

但這裡面同樣藏著明顯的隱患。如果連正在全力推進大模型商業化的公司 CEO 們都跑出來呼籲「AI 可能滅絕人類」，監管機構很可能會被推向極其嚴苛的牌照制監管。這種監管往往只會保護已經建立壁壘的巨頭，反而把開源社群和初創公司擠出牌桌。

對普通開發者和創業者來說，現在倒不用為了末日預警停下腳步。這篇宣告不會讓大模型的迭代速度放慢半秒，反而意味著監管風暴很快會變成實打實的合規成本。如何在享受大模型能力的同時，儘早做好應對全球政策收緊的準備，才是眼下最現實的事。