「AI 教父」Hinton 离职 Google:后悔毕生研究,警告风险失控
图灵奖得主 Geoffrey Hinton 宣布从 Google 离职。他表示对自己毕生的研究感到部分后悔,离职是为了能自由警示 AI 带来的风险。他特别担忧巨头恶性竞争会导致虚假信息泛滥,以及未来 AI 自行编写代码甚至威胁人类存亡。

一手把现代人工智能送上神坛的人,现在决定转过身来敲警钟。
被称为「AI 教父」、2018 年图灵奖得主之一的 Geoffrey Hinton,最近从工作了十多年的 Google 离职。75 岁的老先生在接受《纽约时报》采访时承认,他对自己毕生的工作感到一部分后悔。
他上个月正式向 Google 递交辞呈,上周四还与 Google 首席执行官 Sundar Pichai 直接通了电话。辞职的原因很纯粹:脱离大厂身份,毫无顾忌地公开谈论 AI 带来的风险。
亲手点燃的火,开始失控了
Hinton 进入 Google,源于 Google 收购了他和两名学生共同创办的公司。当年他们训练出的神经网络,在分析数万张照片后学会了识别狗、猫和花朵。这项奠基性的突破,最终演变成了今天的 ChatGPT 和 Google Bard。有意思的是,当年他的其中一名学生,后来正是 OpenAI 的首席科学家。
Hinton 坦言,自己以前总用借口安慰自己:就算我没做,别人早晚也会做出来。但现在看着技术扩散,他直言很难阻止坏人拿它来作恶。
压垮他耐心的,是巨头之间停不下来的军备竞赛。Hinton 过去很认可 Google 对这项技术的克制与管理,直到微软推出集成 OpenAI 技术的 Bing 搜索引擎,直接威胁到 Google 的核心业务,并在 Google 内部触发了「红色预警」。
这种近乎失控的商业竞速,让 Hinton 深感不安。他最直接的担忧是,网络上很快会被海量虚假图像和虚假文字淹没,普通人再也无法分清到底什么是真实的。
以为还要等半个世纪,其实已经到了
比起虚假信息,更长远的威胁来得更猛烈。Hinton 担心,AI 不仅会消灭大量日常机械岗位,随着它学会自己编写和运行代码,甚至可能对整个人类构成生存威胁。
「以前只有极少数人相信这玩意儿能比人更聪明,绝大多数人都觉得还早得很,」Hinton 说道,「我过去也以为至少还要等 30 到 50 年,甚至更久。现在看来,显然不是这样了。」
面对老元勋的离职警告,Google 首席科学家 Jeff Dean 出面回应称,Google 依然坚持负责任的 AI 路径,在努力理解新风险的同时大胆创新。Hinton 随后也在 Twitter 上澄清,自己并不是针对 Google 过往的管理,而是为了能够自由发声。
为什么重要
如果连这项技术的核心奠基人都在后悔,说明 AI 的发展轨迹已经脱离了实验室里最初的理想设定。
对普通用户和知识工作者来说,Hinton 的警告把一个现实摆到了台面上:真假难辨的合成内容不再是科幻设定,而是日常必须面对的筛选成本;同时,脑力劳动的替代周期,比学术界过去的预测提前了几十年。
在行业层面,这番表态戳破了巨头们「负责任竞争」的体面。当微软靠激进整合抢跑、逼得 Google 亮起「红色预警」时,两家公司就都已经停不下来了。在市场份额面前,任何自我约束都显得极为脆弱。
我们认为,Hinton 选择在这个节点离职发声极其聪明。作为学术泰斗,他卸下了大厂雇员的利益枷锁,发言更具公信力。但这也是一种无奈:当技术的发明者只能靠「拔掉自己的工牌」来换取说话的自由,看起来行业的刹车片,早就已经握在商业资本手里了。
来源 (1)
- theverge.com(在新标签页打开)原文theverge.com
话题追踪Geoffrey Hinton 对 AI 风险的警告
- Geoffrey Hinton:AI 很可能会有情绪,甚至现在可能已经有了
- AI 教父 Hinton 敲警钟:我不信「好 AI」一定能压制「坏 AI」
- Geoffrey Hinton 警告:AI 对人类的威胁可能比气候变化更紧迫
- 「AI 教父」Hinton 离职 Google:后悔毕生研究,警告风险失控本条