跳到正文
IFAI

行业动态

Meta 首席科学家 LeCun:AI 灭绝人类纯属荒诞,连猫都比不过

首次发布 传播指数 35

Meta 首席 AI 科学家 Yann LeCun 在接受采访时直言,担心 AI 毁灭人类纯属「荒唐」。他表示当前模型缺乏常识与推理规划能力,甚至比不上猫的学习水平;过早监管 AI 研发反而会造成「监管俘获」,让科技巨头进一步垄断并扼杀竞争。

Meta 首席科学家 LeCun:AI 灭绝人类纯属荒诞,连猫都比不过
图:cointelegraph.com

当大半个科技圈都在担心超级 AI 何时毁灭人类时,Meta 的首席 AI 科学家 Yann LeCun 站出来泼了盆冷水。

在 10 月 19 日英国《金融时报》刊登的专访中,这位图灵奖得主直截了当地表示,认为 AI 会消灭人类的想法简直是「荒谬至极」,现在大谈生存威胁完全是「为时过早」。

连猫的智商都没达到,谈何终结人类

LeCun 泼冷水的逻辑非常简单:现在的技术距离真正的智能还差得太远。

他打了个很形象的比方:在我们设计出一个学习能力至少能赶上一只猫的系统之前,讨论所谓的存在性风险没有任何意义,而人类目前根本没有这种系统。

在 LeCun 看来,市面上大火的模型被严重夸大了。这些系统根本不理解物理世界是如何运转的,它们既没有真正的常识,也不具备规划和推理能力,本质上离超级智能还差着十万八千里。

他的表态直接撞上了硅谷当下的末日叙事风潮。自打 OpenAI 推出 ChatGPT 掀起这轮狂潮后,行业内部的警报声就没停过。

被誉为「AI 教父」的 Geoffrey Hinton 专门辞去了 Google 的职位,就是为了能自由地警告 AI 的危险性。非营利组织 Center for AI Safety 主管 Dan Hendrycks 也在 5 月公开发声,把 AI 灭绝风险与疫情和核战争相提并论;英国 AI 工作组顾问甚至放话,AI 可能在短短两年内威胁人类生存。

借安全之名,行巨头垄断之实

比起技术上的末日论,LeCun 真正担心的是那些正在酝酿中的监管手段。

他警告说,对 AI 研发进行过早的监管是「极其适得其反的」。在他眼里,很多所谓出于安全考虑的监管呼吁,本质上就是一场「监管俘获」。

说白了,过早设立苛刻的准入门槛,只会进一步巩固大型科技巨头的绝对优势,把中小企业和开源竞争者彻底挡在门外,让整个市场失去竞争活力。

不过,LeCun 并不是技术悲观派。他认为 AI 终将深刻改变我们的生活,未来每个人与数字世界的每一次互动,都会由 AI 系统在中间充当中介。

为什么重要

我们认为,LeCun 这次公开发声,直接撕掉了硅谷围绕 AI 安全筑起的一层伪善窗户纸。

对于创业公司和独立开发者来说,这是极其关键的声援。如果监管机构被科幻式的灭绝恐慌带偏,对底层模型研发施加繁重的合规负担,最后买单的不会是有钱有法务的超级巨头,而是没有试错资本的中小团队。维持开源与自由竞争,是防止少数巨头垄断未来的唯一屏障。

对整个行业而言,这标志着两大技术阵营分歧的公开化。一边是 Hinton 和部分闭源巨头主导的风险派,把大模型的黑盒能力视作不可控的威胁;另一边则是以 LeCun 为代表的实用派,坚持现有的大语言模型架构存在天花板,连世界模型都算不上。

我们觉得 LeCun 的批判非常清醒。把一个没有规划能力、连常识都欠缺的自回归文本预测工具,脑补成即将接管世界的灭世魔王,不仅脱离了现实的技术事实,更危险的是转移了公众的注意力。

看起来,真正的隐患从来不是 AI 明天会不会毁灭人类,而是今天的大公司会不会借着毁灭人类的借口,把属于所有人的技术变成自家的护城河。

来源 (1)

  1. [1]
    cointelegraph.com(在新标签页打开)原文cointelegraph.com

话题追踪Meta 的开源 AI 策略与争议

这个话题的历次新闻,最新的在上面。

  1. Meta AI 负责人发声:传统开源协议管不住大模型,规则该改了
  2. Yan LeCun 发文警告:扼杀开源 AI 将让少数巨头垄断知识
  3. Meta 首席科学家 LeCun:AI 灭绝人类纯属荒诞,连猫都比不过本条
  4. 扎克伯格参院AI论坛发言:力挺开源与安全两大核心
  5. Meta 首席 AI 科学家 Yann LeCun 为何不买账「AI 末日论」

每日 AI 内容精选