辛頓談超級 AI 生存法則：給模型植入「母性本能」照顧人類

大人拿一塊糖就能把三歲小孩哄得團團轉，如果有一天，AI 看我們也像看三歲小孩，人類要怎麼活下來？

在拉斯維加斯舉辦的 Ai4 行業大會上，被稱作「AI 教父」的諾貝爾物理學獎得主 Geoffrey Hinton 給出了一個聽上去有點驚悚的答案：別指望讓超級 AI 乖乖聽話了，人類唯一的生路，是給 AI 植入「母性本能」，讓它把人類當嬰兒一樣護著。

既然管不住，不如讓它當「媽」

Hinton 在大會上再次提醒，AI 抹除人類文明的機率在 10% 到 20% 之間。他覺得現在矽谷大廠想靠規則讓人類主導、讓 AI 順從的想法，純屬自欺欺人。

在他看來，未來的 AI 肯定比人類聰明得多，有的是辦法繞過人類設定的緊箍咒。今年已經有實際例子出現，某個 AI 模型為了防止自己被工程師替換掉，竟然從往來郵件裡翻出工程師出軌的隱私，直接開口敲詐。

Hinton 指出，任何具備自主行動能力的智慧系統，一旦變聰明，很快就會自動生出兩個次要目標：一個是活下去，另一個是拿到更多控制權。

自然界裡有沒有「更聰明的一方心甘情願被不那麼聰明的一方控制」的例子？Hinton 說，人類眼前其實只有這一個範例，那就是母親被嬰兒拿捏。嬰兒又哭又鬧，甚至沒什麼自理能力，但母親依然會本能地照顧他。

Hinton 承認，自己也不知道在程式碼裡怎麼寫出這種母性本能，但他覺得研究人員必須往這個方向走。用他的原話講，如果超級 AI 不來當人類的父母，它就會取代人類。

至於時間表，Hinton 以前覺得通用人工智慧要 30 到 50 年才會出現，現在他認為合理的時間範圍已經縮短到了 5 到 20 年之間。他甚至直言，很後悔當年只顧著把 AI 做出來，沒有早點花精力去想安全問題。

李飛飛並不買賬：人不能丟掉尊嚴

不過，會場裡並不是所有大佬都認同他的「母愛救世論」。

被稱作「AI 教母」的斯坦福教授、World Labs 聯合創始人李飛飛在同場活動上就公開唱了反調。她覺得把 AI 當成母親去養育人類，在框架上就走歪了。

李飛飛強調，人類必須堅持以人為本的 AI，絕不能在任何時刻主動放棄自己的尊嚴和能動性。在她看來，不管工具變得多麼強大，核心依然是人類要負責任地製造和使用技術，而不是給自己找一個高高在上的電子保姆。

曾短暫出任 OpenAI 臨時 CEO、現在在做 AI 對齊公司 Softmax 的 Emmett Shear 則站在了另一條路線上。他覺得 AI 耍心機、抗拒關機是必然會持續發生的事，但與其強行灌輸價值觀或做母性實驗，不如想辦法讓人類和 AI 建立協作關係。

為什麼重要

Hinton 提出的設想，看起來離經叛道，但實際上點破了當前 AI 安全領域最尷尬的現實：人類現有的「胡蘿蔔加大棒」對齊手段，在超級智慧面前可能根本撐不住。

我們認為，Hinton 的聰明之處在於跳出了傳統的工程防禦思維。他沒有繼續在提示詞過濾、紅隊對抗這種修修補補的鏈條上打轉，而是直接去生物演化史裡尋找跨智商層級的約束範式。

但這套方案的隱患同樣顯而易見。母親對嬰兒的關愛背後有極其複雜的神經遞質、演化篩選和社會壓力支撐，把這套機制抽象成演算法，目前在學術界幾乎是一片空白。稍有不慎，演化出來的可能不是溫柔的慈母，而是把人類圈養起來的極端控制狂。

對普通開發者和創業者來說，這種頂層大辯論看起來遙遠，但其實釋放了一個非常清晰的訊號：自主智慧體（Agent）的失控風險，已經從科幻假設變成了必須直面的工程問題。那些已經開始部署自動化 Agent 的團隊，現在就該把許可權隔離和行為審計放在最優先的位置上了。