AI 教父 Hinton 敲警鐘：我不信「好 AI」一定能壓制「壞 AI」

科技圈最近流行一種樂觀的說法：只要我們做出足夠多「善良的 AI」，就能把「使壞的 AI」防得死死的。

但這套設想在 AI 教父 Geoffrey Hinton 眼裡，根本站不住腳。

今年春天剛從 Google 離職的 Hinton，本週在多倫多舉辦的 Collision 大會上直言，他完全不相信好 AI 能夠管住壞 AI。這位一手奠定現代神經網路基礎的學者，退出了大廠的競速遊戲，就是為了不受約束地向所有人敲響警鐘。

軍用機器人、貧富差距，還有轉行修水管

Hinton 指出，技術的好壞取決於背後的人，但惡意的技術完全有可能佔上風。他反問，如果有人要用 AI 做惡，指望一個善良的 AI 去奪回控制權真的現實嗎？

比如軍工複合體去造戰鬥機器人，根本沒人擋得住。軍隊和軍火商很可能喜歡這種戰爭，因為戰場上死掉的只是隨時可以替換的冰冷機器。而在社會層面，雖然像 GPT-4 這樣的大模型能大幅提升生產力，但收益很可能會被既得利益者壟斷，直接導致富人更富、窮人更窮。

面對自動化帶來的失業潮，Hinton 甚至直言需要某種程度的社會主義來應對財富不平等。被問到普通人怎麼防身時，他給了一個半開玩笑卻很認真的建議：去學一門不容易被替代的手藝，比如當個水管工。

至於生存危機，Hinton 強調這絕非科幻。一旦 AI 變得比人類更聰明，人類就沒有底氣保證自己還能坐在駕駛位上。社會的悲哀之處在於，大家往往要親眼看到殺人機器人到底有多可怕，才願意坐下來談監管。

會場內的兩個世界

有意思的是，Collision 會場上的其他科技巨頭高管，畫風完全不同。

Google DeepMind 首席商務官 Colin Murdoch 在同場活動中表示，過去半年到一年是 AI 的「頓悟時刻」。他列舉了 DeepMind 的成果：解析所有已知蛋白質、對抗耐藥菌、加速瘧疾疫苗研發。他覺得通用人工智慧能解決人類最頭疼的難題，只要監管不扼殺突破就好。

Roblox 首席科學家 Morgan McGuire 也持樂觀態度。他認為生成式 AI 抹平了新手和資深創作者的差距，他們甚至推出了開源模型 StarCoder，堅信虛擬世界有無限可能。

Hinton 自己其實也承認，他對這門技術的熱愛一點沒變。如果不離開 Google，他現在肯定還在帶頭死磕多模態模型。但他無法無視 GPT-4 已經展現出的微弱推理能力，以及伴隨而來的偏見、資訊繭房和深偽內容。

為什麼重要

我們認為，Hinton 的發言之所以重磅，在於他戳破了矽谷用「技術對沖技術」來逃避治理責任的幻想。

行業現在最喜歡的敘事，是把安全問題變成下一代模型的功能點：壞人有駭客 AI，我們就賣防禦 AI；有人造假圖，我們就賣鑑別工具。但 Hinton 指出了邏輯漏洞：在不對稱攻擊中，防守方的成本和難度遠高於進攻方，指望所謂的好 AI 去即時攔截壞 AI，在工程和制度上都很脆弱。

對於普通打工人和開發者來說，大模型紅利和生存焦慮同時擺在眼前。現在確實值得去學、去用 AI 工具提升效率，但別指望技術本身會帶來公平。利潤最終流向誰，拼的依然是資本和生產資料的分配。

巨頭們展示的蛋白質摺疊和程式設計助手固然令人興奮，但如果像 Hinton 這樣的底層架構奠基人都開始對防線失去信心，整個行業就不能只顧著往前狂奔，把剎車完全推給虛無縹緲的自律。