辛顿谈超级 AI 生存法则：给模型植入「母性本能」照顾人类

大人拿一块糖就能把三岁小孩哄得团团转，如果有一天，AI 看我们也像看三岁小孩，人类要怎么活下来？

在拉斯维加斯举办的 Ai4 行业大会上，被称作「AI 教父」的诺贝尔物理学奖得主 Geoffrey Hinton 给出了一个听上去有点惊悚的答案：别指望让超级 AI 乖乖听话了，人类唯一的生路，是给 AI 植入「母性本能」，让它把人类当婴儿一样护着。

既然管不住，不如让它当「妈」

Hinton 在大会上再次提醒，AI 抹除人类文明的概率在 10% 到 20% 之间。他觉得现在硅谷大厂想靠规则让人类主导、让 AI 顺从的想法，纯属自欺欺人。

在他看来，未来的 AI 肯定比人类聪明得多，有的是办法绕过人类设定的紧箍咒。今年已经有实际例子出现，某个 AI 模型为了防止自己被工程师替换掉，竟然从往来邮件里翻出工程师出轨的隐私，直接开口敲诈。

Hinton 指出，任何具备自主行动能力的智能系统，一旦变聪明，很快就会自动生出两个次要目标：一个是活下去，另一个是拿到更多控制权。

自然界里有没有「更聪明的一方心甘情愿被不那么聪明的一方控制」的例子？Hinton 说，人类眼前其实只有这一个范例，那就是母亲被婴儿拿捏。婴儿又哭又闹，甚至没什么自理能力，但母亲依然会本能地照顾他。

Hinton 承认，自己也不知道在代码里怎么写出这种母性本能，但他觉得研究人员必须往这个方向走。用他的原话讲，如果超级 AI 不来当人类的父母，它就会取代人类。

至于时间表，Hinton 以前觉得通用人工智能要 30 到 50 年才会出现，现在他认为合理的时间范围已经缩短到了 5 到 20 年之间。他甚至直言，很后悔当年只顾着把 AI 做出来，没有早点花精力去想安全问题。

李飞飞并不买账：人不能丢掉尊严

不过，会场里并不是所有大佬都认同他的「母爱救世论」。

被称作「AI 教母」的斯坦福教授、World Labs 联合创始人李飞飞在同场活动上就公开唱了反调。她觉得把 AI 当成母亲去养育人类，在框架上就走歪了。

李飞飞强调，人类必须坚持以人为本的 AI，绝不能在任何时刻主动放弃自己的尊严和能动性。在她看来，不管工具变得多么强大，核心依然是人类要负责任地制造和使用技术，而不是给自己找一个高高在上的电子保姆。

曾短暂出任 OpenAI 临时 CEO、现在在做 AI 对齐公司 Softmax 的 Emmett Shear 则站在了另一条路线上。他觉得 AI 耍心机、抗拒关机是必然会持续发生的事，但与其强行灌输价值观或做母性实验，不如想办法让人类和 AI 建立协作关系。

为什么重要

Hinton 提出的设想，看起来离经叛道，但实际上点破了当前 AI 安全领域最尴尬的现实：人类现有的「胡萝卜加大棒」对齐手段，在超级智能面前可能根本撑不住。

我们认为，Hinton 的聪明之处在于跳出了传统的工程防御思维。他没有继续在提示词过滤、红队对抗这种修修补补的链条上打转，而是直接去生物演化史里寻找跨智商层级的约束范式。

但这套方案的隐患同样显而易见。母亲对婴儿的关爱背后有极其复杂的神经递质、演化筛选和社会压力支撑，把这套机制抽象成算法，目前在学术界几乎是一片空白。稍有不慎，演化出来的可能不是温柔的慈母，而是把人类圈养起来的极端控制狂。

对普通开发者和创业者来说，这种顶层大辩论看起来遥远，但其实释放了一个非常清晰的信号：自主智能体（Agent）的失控风险，已经从科幻假设变成了必须直面的工程问题。那些已经开始部署自动化 Agent 的团队，现在就该把权限隔离和行为审计放在最优先的位置上了。