Geoffrey Hinton 警告：AI 对人类的威胁可能比气候变化更紧迫

如果连亲手造出深度学习骨架的人都在喊救命，事情可能真的有点失控了。

刚在 4 月离开 Google 的「AI 教父」、2018 年图灵奖得主 Geoffrey Hinton，本周一在接受路透社采访时抛出了一句更具震撼力的判断：AI 对人类带来的威胁，很可能比气候变化还要更紧迫。

今年 75 岁的 Hinton 此前兼职协助 Google 进行 AI 研发，上个月刚提交辞呈。他当时就说明，离开是为了能够毫无顾忌地警告公众，而不用在说话时小心翼翼地避开老东家的商业利益。

气候变化有解药，但 AI 还没有

把 AI 的风险抬到气候变化之上，Hinton 并不是想淡化环保危机。他在采访里坦言，气候变化当然是巨大的威胁，但他觉得 AI 可能会变成眼下更火烧眉毛的事。

他的逻辑其实很直白：面对气候变化，全世界至少非常清楚解决方案是什么，说白了就是别再烧碳，只要大家做到这一点，情况迟早会好转。

但在 AI 面前，人类现在甚至连该怎么做都一头雾水。Hinton 提到，未经监管的 AI 可能会助长虚假信息泛滥、冲击就业市场，甚至给恶意攻击者递上一把破坏社会的利刃。

更让他夜不能寐的是完全脱离人类掌控的高级系统。Hinton 之前就透露过自己有些后悔毕生的研究，因为系统一旦获得自己编写并运行代码的能力，失控就只是时间问题，比如全自动的武器系统就是其中一个极其可怕的场景。

踩刹车不现实，只能硬着头皮找解法

尽管他和 Elon Musk 一样对 AI 的未来满腹担忧，但 Hinton 明确表示自己不赞同那封呼吁「暂停高级 AI 研发 6 个月」的联名公开信。

在他看来，要求全球开发者暂停 6 个月完全是「极其不现实」的空想。竞赛的飞轮一旦转起来，谁也不会真正停下脚步。

Hinton 把自己归类在「生存风险派」。他强调这种风险已经离我们足够近，人类不能指望把机器关掉，而是必须现在就投入海量资源，拼命研究到底该怎么防范它。

就在上周，拜登政府才刚刚把 Google 首席执行官 Sundar Pichai 和 OpenAI 首席执行官 Sam Altman 等科技巨头召集到白宫，试图就 AI 的安全推进展开坦诚讨论。

为什么重要

我们认为，Hinton 的这番表态是整个 AI 产业从技术狂欢走向治理焦虑的一个关键转折点。

对普通人和技术开发者来说，这并不是要求大家明天就卸载所有 AI 工具，而是要认清一个现实：底层工具的演进速度已经远远把规则制定甩在了身后。当像 Hinton 这样奠定现代神经网络基础的人都在承认失控风险时，任何盲目把关键决策交给黑盒模型的行为，代价都会变得极其高昂。

从行业和监管层面来看，这相当于直接向各国政府敲响了警钟。过去科技巨头总试图把安全问题包装成「内部可控的技术细节」，但 Hinton 戳破了这层窗户纸，把 AI 治理推到了和全球气候峰会同等的政治高度。

他的聪明之处在于务实。他没有跟着签名去搞不切实际的「暂停 6 个月」，因为只要有利可图，商业竞争就不可能凭一纸倡议停摆；但他指出了最根本的隐患，那就是整个行业只顾着砸钱提升参数，却几乎没有人在安全对齐和代码限制上给出真正有效的数学解法。

看起来，AI 竞赛的终局很可能不再是谁的模型参数更大，而是谁能赶在灾难性的失控发生之前，先给机器装上一副真正管用的缰绳。