Geoffrey Hinton 警告：AI 對人類的威脅可能比氣候變化更緊迫

如果連親手造出深度學習骨架的人都在喊救命，事情可能真的有點失控了。

剛在 4 月離開 Google 的「AI 教父」、2018 年圖靈獎得主 Geoffrey Hinton，本週一在接受路透社採訪時丟擲了一句更具震撼力的判斷：AI 對人類帶來的威脅，很可能比氣候變化還要更緊迫。

今年 75 歲的 Hinton 此前兼職協助 Google 進行 AI 研發，上個月剛提交辭呈。他當時就說明，離開是為了能夠毫無顧忌地警告公眾，而不用在說話時小心翼翼地避開老東家的商業利益。

氣候變化有解藥，但 AI 還沒有

把 AI 的風險抬到氣候變化之上，Hinton 並不是想淡化環保危機。他在採訪裡坦言，氣候變化當然是巨大的威脅，但他覺得 AI 可能會變成眼下更火燒眉毛的事。

他的邏輯其實很直白：面對氣候變化，全世界至少非常清楚解決方案是什麼，說白了就是別再燒碳，只要大家做到這一點，情況遲早會好轉。

但在 AI 面前，人類現在甚至連該怎麼做都一頭霧水。Hinton 提到，未經監管的 AI 可能會助長虛假資訊氾濫、衝擊就業市場，甚至給惡意攻擊者遞上一把破壞社會的利刃。

更讓他夜不能寐的是完全脫離人類掌控的高階系統。Hinton 之前就透露過自己有些後悔畢生的研究，因為系統一旦獲得自己編寫並執行程式碼的能力，失控就只是時間問題，比如全自動的武器系統就是其中一個極其可怕的場景。

踩剎車不現實，只能硬著頭皮找解法

儘管他和 Elon Musk 一樣對 AI 的未來滿腹擔憂，但 Hinton 明確表示自己不贊同那封呼籲「暫停高階 AI 研發 6 個月」的聯名公開信。

在他看來，要求全球開發者暫停 6 個月完全是「極其不現實」的空想。競賽的飛輪一旦轉起來，誰也不會真正停下腳步。

Hinton 把自己歸類在「生存風險派」。他強調這種風險已經離我們足夠近，人類不能指望把機器關掉，而是必須現在就投入海量資源，拼命研究到底該怎麼防範它。

就在上週，拜登政府才剛剛把 Google 執行長 Sundar Pichai 和 OpenAI 執行長 Sam Altman 等科技巨頭召集到白宮，試圖就 AI 的安全推進展開坦誠討論。

為什麼重要

我們認為，Hinton 的這番表態是整個 AI 產業從技術狂歡走向治理焦慮的一個關鍵轉折點。

對普通人和技術開發者來說，這並不是要求大家明天就解除安裝所有 AI 工具，而是要認清一個現實：底層工具的演進速度已經遠遠把規則制定甩在了身後。當像 Hinton 這樣奠定現代神經網路基礎的人都在承認失控風險時，任何盲目把關鍵決策交給黑盒模型的行為，代價都會變得極其高昂。

從行業和監管層面來看，這相當於直接向各國政府敲響了警鐘。過去科技巨頭總試圖把安全問題包裝成「內部可控的技術細節」，但 Hinton 戳破了這層窗戶紙，把 AI 治理推到了和全球氣候峰會同等的政治高度。

他的聰明之處在於務實。他沒有跟著簽名去搞不切實際的「暫停 6 個月」，因為只要有利可圖，商業競爭就不可能憑一紙倡議停擺；但他指出了最根本的隱患，那就是整個行業只顧著砸錢提升引數，卻幾乎沒有人在安全對齊和程式碼限制上給出真正有效的數學解法。

看起來，AI 競賽的終局很可能不再是誰的模型引數更大，而是誰能趕在災難性的失控發生之前，先給機器裝上一副真正管用的韁繩。