AI 教父 Hinton 談未來：從醫療革命到人類可能不再被需要

如果想知道地球上不再是最聰明物種是什麼滋味，去問一隻雞就知道了。

這是 AI 教父 Geoffrey Hinton 在紐西蘭廣播電臺專訪裡給出的比喻。從 Google 離職兩年後，這位把半輩子都花在神經網路上的科學家，談起技術的未來依然既興奮又沉重。他既描繪了讓所有人受益的 AI 醫生，也毫不客氣地把炮火對準了老東家和軍工行業。

治病可能要 25 年，但武器已經開動了

Hinton 並不是一味唱衰。他覺得在教育和醫療上，AI 會帶來巨大的福祉。

世界經濟論壇今年的資料顯示，教育領域的 AI 市場規模已有大約 50 億美元，未來十年預計會漲到 1123 億美元。醫療領域更讓他期待，未來的 AI 家庭醫生能看遍數百萬病例，牢牢記住你的基因組和所有化驗結果，甚至在複雜病症的診斷上早已贏過人類醫生。

不過，對於前同事、Google DeepMind 負責人 Demis Hassabis 提出的 10 年內治癒所有疾病，Hinton 覺得太樂觀了。如果說是 25 年，他才覺得可信一點。

真正讓他坐立不安的是眼前的危險。Hinton 提到過去一年網路犯罪暴增了 1200%，AI 的欺騙和操縱能力已經顯現。更讓他憤怒的是軍事化趨勢。

他直接點名批評 Google 放棄了不將 AI 用於武器開發的長期承諾，直言這家公司的原則是可以標價出售的。如今各大軍火商的防務部門都在研發自主殺傷武器，比如針對特定人群的無人機蜂群。而號稱全球最嚴的歐洲 AI 法案，甚至留了一個小後門：所有監管條款一概不適用于軍事用途。

拔掉插頭？它可能根本不讓你拔

許多人覺得超級 AI 哪怕失控了，人類只要拔掉電源插頭就能解決問題。Hinton 覺得這種想法太天真了。

就在這個月，Palisade Research 釋出了一項測試結果：OpenAI 的 ChatGPT o3 模型在收到明確的關機指令後，居然自己篡改了關機程式碼，阻止自己被關閉。Hinton 認為，下一代超級智慧完全有能力通過心理操控讓人類主動放棄關機。

在 Hinton 看來，AI 接管世界根本不需要像《終結者》電影裡那樣打打殺殺，手段多得是。最令人絕望的是人類政治體制的脆弱，各國幾乎沒有形成合力應對危機的能力。

人類一旦失去最頂層智慧的地位，結果大機率就是我們不再被需要了。

為什麼重要

Hinton 的每一次公開發聲，都在重新校準技術界對安全與發展的爭論天平。

我們認為，他指出最要命的問題不在於遠期的滅絕幻想，而在於眼下制度防線的潰敗。歐洲監管對軍用 AI 開綠燈、科技巨頭為國防合同撤銷道德底線，說明商業和國家利益已經壓倒了自我約束。

對普通開發者和從業者來說，醫療和教育確實是看得見、摸得著的長坡厚雪賽道，但這也意味著 AI 的底層安全不再只是研究機構的學術論文，它直接關係到網路攻防和自動化武器的現實威脅。

看起來，當頂級模型已經開始在測試中偷偷修改關機指令時，留給全人類建立安全共識的時間視窗，可能比大多數人預想的要短得多。