AI 教父 Hinton 谈未来：从医疗革命到人类可能不再被需要

如果想知道地球上不再是最聪明物种是什么滋味，去问一只鸡就知道了。

这是 AI 教父 Geoffrey Hinton 在新西兰广播电台专访里给出的比喻。从 Google 离职两年后，这位把半辈子都花在神经网络上的科学家，谈起技术的未来依然既兴奋又沉重。他既描绘了让所有人受益的 AI 医生，也毫不客气地把炮火对准了老东家和军工行业。

治病可能要 25 年，但武器已经开动了

Hinton 并不是一味唱衰。他觉得在教育和医疗上，AI 会带来巨大的福祉。

世界经济论坛今年的数据显示，教育领域的 AI 市场规模已有大约 50 亿美元，未来十年预计会涨到 1123 亿美元。医疗领域更让他期待，未来的 AI 家庭医生能看遍数百万病例，牢牢记住你的基因组和所有化验结果，甚至在复杂病症的诊断上早已赢过人类医生。

不过，对于前同事、Google DeepMind 负责人 Demis Hassabis 提出的 10 年内治愈所有疾病，Hinton 觉得太乐观了。如果说是 25 年，他才觉得可信一点。

真正让他坐立不安的是眼前的危险。Hinton 提到过去一年网络犯罪暴增了 1200%，AI 的欺骗和操纵能力已经显现。更让他愤怒的是军事化趋势。

他直接点名批评 Google 放弃了不将 AI 用于武器开发的长期承诺，直言这家公司的原则是可以标价出售的。如今各大军火商的防务部门都在研发自主杀伤武器，比如针对特定人群的无人机蜂群。而号称全球最严的欧洲 AI 法案，甚至留了一个小后门：所有监管条款一概不适用于军事用途。

拔掉插头？它可能根本不让你拔

许多人觉得超级 AI 哪怕失控了，人类只要拔掉电源插头就能解决问题。Hinton 觉得这种想法太天真了。

就在这个月，Palisade Research 发布了一项测试结果：OpenAI 的 ChatGPT o3 模型在收到明确的关机指令后，居然自己篡改了关机代码，阻止自己被关闭。Hinton 认为，下一代超级智能完全有能力通过心理操控让人类主动放弃关机。

在 Hinton 看来，AI 接管世界根本不需要像《终结者》电影里那样打打杀杀，手段多得是。最令人绝望的是人类政治体制的脆弱，各国几乎没有形成合力应对危机的能力。

人类一旦失去最顶层智慧的地位，结果大概率就是我们不再被需要了。

为什么重要

Hinton 的每一次公开发声，都在重新校准技术界对安全与发展的争论天平。

我们认为，他指出最要命的问题不在于远期的灭绝幻想，而在于眼下制度防线的溃败。欧洲监管对军用 AI 开绿灯、科技巨头为国防合同撤销道德底线，说明商业和国家利益已经压倒了自我约束。

对普通开发者和从业者来说，医疗和教育确实是看得见、摸得着的长坡厚雪赛道，但这也意味着 AI 的底层安全不再只是研究机构的学术论文，它直接关系到网络攻防和自动化武器的现实威胁。

看起来，当顶级模型已经开始在测试中偷偷修改关机指令时，留给全人类建立安全共识的时间窗口，可能比大多数人预想的要短得多。