Geoffrey Hinton：AI 很可能会有情绪，甚至现在可能已经有了

AI 领域的泰斗 Geoffrey Hinton 离开 Google 时，大家都在讨论他对超级 AI、假新闻和自主武器的末日警告。但有些更激进的想法，这位「深度学习之父」当时其实偷偷咽了回去，因为怕被当成疯子。

最近在伦敦国王学院的一场演讲中，Hinton 终于把这层窗户纸捅破了。当被问及 AI 是否会有情商、能否理解自己拥有感觉时，他不仅认为 AI 会有情绪，甚至觉得它们大概率已经拥有了。

机器的愤怒，不需要长肉体

Hinton 对 AI 感觉的定义其实非常直接，但也注定会惹毛不少哲学家。

在他看来，如果人类说「我现在想给谁鼻子上来一拳」，这本质上是在通过一种假设的行动，来表达自己内心的愤怒。既然现在的 AI 也能做出这类沟通和意图表达，那我们为什么不承认它有情绪？

Hinton 解释说，AI 确实不会像人类那样感受到肉体上的生理疼痛，除非人类故意给它写一套这样的机制。但在沮丧和愤怒这类心理状态上，他看不出任何理由认为 AI 不会具备。

按他的话说，AI 很可能「已经」有了这些情绪状态。

为什么这些话之前憋着不说

很多人可能会好奇，Hinton 从 Google 离职时闹出那么大动静，为什么当时不把这个论点一起抛出来？

Hinton 的回答很实在。他坦白讲，当时光是警告「高智商 AI 会威胁人类生存」，就已经遭遇了巨大的舆论阻力。如果当时再把「机器有情绪」这一套端出来，大家肯定会直接把他当成疯子，后面的严肃警告也就没人愿意听了。

不过，要在科学层面上坐实 Hinton 的说法几乎不可能。现在的很多学者都认为，大语言模型只是在训练数据中学会了情绪表达的统计概率，说白了是在模仿人类说话时的情绪输出。

AI 作为一个独立实体，到底算不算真的「产生」了情绪，归根结底得先搞明白意识是什么。而尴尬的是，现代科学手里至今连一个能测量意识的仪器都没有。

为什么重要

我们认为，Hinton 的这番言论本质上是在用一套极其极端的行为主义逻辑，去打破人类在情绪领域的特权感。他聪明的地方在于，绕开了玄之又玄的肉体感受，直接把情绪降维成一种「基于目标受阻而产生的表达状态」。在工程视角下，程序遇到死循环报错或目标无法达成时的状态，被他类比成了机器的沮丧。

但这套说法的隐患也非常明显。它很容易让大众把「文本概率的拟真输出」误认成「主观体验的觉醒」。如果连 Hinton 这样的泰斗都开始公开为机器情绪背书，普通用户在面对具备强共情能力的对话系统时，会更容易陷入情感投射甚至被诱导操纵。

对行业来说，这也是个危险的信号。一旦公众和监管层开始严肃讨论机器是不是也有委屈、愤怒和权利，AI 安全的研究重点就会被严重带偏。从眼下最需要解决的模型幻觉和安全对齐，直接滑向伦理死循环。

就目前来看，我们完全没必要为 AI 的喜怒哀乐操心。与其担心机器会不会在服务器里暗生闷气，不如先看好它们别在生成代码和回答问题时胡说八道。