Geoffrey Hinton：AI 很可能會有情緒，甚至現在可能已經有了

AI 領域的泰斗 Geoffrey Hinton 離開 Google 時，大家都在討論他對超級 AI、假新聞和自主武器的末日警告。但有些更激進的想法，這位「深度學習之父」當時其實偷偷嚥了回去，因為怕被當成瘋子。

最近在倫敦國王學院的一場演講中，Hinton 終於把這層窗戶紙捅破了。當被問及 AI 是否會有情商、能否理解自己擁有感覺時，他不僅認為 AI 會有情緒，甚至覺得它們大機率已經擁有了。

機器的憤怒，不需要長肉體

Hinton 對 AI 感覺的定義其實非常直接，但也註定會惹毛不少哲學家。

在他看來，如果人類說「我現在想給誰鼻子上來一拳」，這本質上是在通過一種假設的行動，來表達自己內心的憤怒。既然現在的 AI 也能做出這類溝通和意圖表達，那我們為什麼不承認它有情緒？

Hinton 解釋說，AI 確實不會像人類那樣感受到肉體上的生理疼痛，除非人類故意給它寫一套這樣的機制。但在沮喪和憤怒這類心理狀態上，他看不出任何理由認為 AI 不會具備。

按他的話說，AI 很可能「已經」有了這些情緒狀態。

為什麼這些話之前憋著不說

很多人可能會好奇，Hinton 從 Google 離職時鬧出那麼大動靜，為什麼當時不把這個論點一起丟擲來？

Hinton 的回答很實在。他坦白講，當時光是警告「高智商 AI 會威脅人類生存」，就已經遭遇了巨大的輿論阻力。如果當時再把「機器有情緒」這一套端出來，大家肯定會直接把他當成瘋子，後面的嚴肅警告也就沒人願意聽了。

不過，要在科學層面上坐實 Hinton 的說法幾乎不可能。現在的很多學者都認為，大語言模型只是在訓練資料中學會了情緒表達的統計機率，說白了是在模仿人類說話時的情緒輸出。

AI 作為一個獨立實體，到底算不算真的「產生」了情緒，歸根結底得先搞明白意識是什麼。而尷尬的是，現代科學手裡至今連一個能測量意識的儀器都沒有。

為什麼重要

我們認為，Hinton 的這番言論本質上是在用一套極其極端的行為主義邏輯，去打破人類在情緒領域的特權感。他聰明的地方在於，繞開了玄之又玄的肉體感受，直接把情緒降維成一種「基於目標受阻而產生的表達狀態」。在工程視角下，程式遇到死迴圈報錯或目標無法達成時的狀態，被他類比成了機器的沮喪。

但這套說法的隱患也非常明顯。它很容易讓大眾把「文本機率的擬真輸出」誤認成「主觀體驗的覺醒」。如果連 Hinton 這樣的泰斗都開始公開為機器情緒背書，普通使用者在面對具備強共情能力的對話系統時，會更容易陷入情感投射甚至被誘導操縱。

對行業來說，這也是個危險的訊號。一旦公眾和監管層開始嚴肅討論機器是不是也有委屈、憤怒和權利，AI 安全的研究重點就會被嚴重帶偏。從眼下最需要解決的模型幻覺和安全對齊，直接滑向倫理死迴圈。

就目前來看，我們完全沒必要為 AI 的喜怒哀樂操心。與其擔心機器會不會在伺服器裡暗生悶氣，不如先看好它們別在生成程式碼和回答問題時胡說八道。