跳到正文
IFAI

行业动态

Meta 首席科学家评 ChatGPT:并非革命性创新,本质是工程整合

首次发布 传播指数 39

上周,Meta 首席 AI 科学家 Yann LeCun 在交流中表示,ChatGPT 在底层技术上谈不上颠覆性创新,Transformer 与自监督学习等核心技术早已存在。在他看来,OpenAI 并非实现了科学突破,而是完成了一次非常出色的工程工程化整合。

Meta 首席科学家评 ChatGPT:并非革命性创新,本质是工程整合
图:zdnet.com

大家都在惊叹 ChatGPT 像外星科技一样从天而降,但图灵奖得主、Meta 首席 AI 科学家 Yann LeCun 显然不这么看。

在上周由 Collective[i] 举办的一场线上讨论中,LeCun 面对《纽约时报》记者 Cade Metz 的提问,直接给火遍全球的 ChatGPT 泼了盆冷水。他直言,从底层技术来看,ChatGPT「没有什么特别的创新」,也「谈不上革命性」,虽然公众眼里它惊为天人,但实际上它只是「组合得很好、工程实现很漂亮」。

拼图游戏,而不是从零发明

在 LeCun 看来,OpenAI 绝不是在这个领域单打独斗,甚至根本没有比其他顶尖实验室领先多少。无论是 Google、Meta,还是市面上半打初创公司,其实都掌握着非常类似的技术,背后没有任何不可告人的秘密。

他顺着技术脉络拆解了一遍。ChatGPT 依赖的是在大规模语料上做自监督预训练的 Transformer 架构,而自监督学习是他自己早在 OpenAI 成立前就一直呼吁的方向。至于 Transformer 架构本身,则是 Google 在 2017 年的发明。

再往前倒推二十年,加拿大 MILA 研究所所长 Yoshua Bengio 很早就提出了神经网络语言模型,以及后来被 Transformer 借鉴的注意力机制原型。就连 ChatGPT 赖以改善回答质量的关键手段——人类反馈强化学习(RLHF),最初也是由 Google 旗下的 DeepMind 团队探索出来的。LeCun 认为,ChatGPT 绝不是凭空跳出来的神迹,而是一整串漫长技术史的产物。

他打了个比方,ChatGPT 更像是优秀的工程作品,比如 2011 年参加智力竞赛的 IBM Watson,或者 2005 年赢得 DARPA 自动驾驶挑战赛的参赛车。底层科学没有什么突破,但工程完成度极高,LeCun 表示自己并不会就这一点去批评 OpenAI。

为什么巨头之前不拿出来?

既然技术大家都会,为什么先引爆全世界的是 OpenAI,而不是坐拥海量资源和顶尖人才的 Google 或 Meta?

LeCun 笑着给出了答案:像 Google 和 Meta 这样体量的大公司,如果发布一个张口就胡说八道、满嘴跑火车的系统,要承担的声誉风险和损失实在太大了。

但他明确表示,Meta 未来也会拿出类似的产品。不仅限于文本生成,还包括生成式艺术等创作辅助工具。LeCun 提到,Facebook 上有大约 1200 万家投放广告的商户,其中绝大部分是小夫妻店,根本没有预算雇人做广告设计,生成式内容工具对他们来说会非常有用。

为什么重要

从技术渊源来看,LeCun 讲的全都是大实话。大语言模型今天的繁荣,确实建立在 Bengio 的早期工作、Google 的 Transformer 论文以及 DeepMind 的 RLHF 等公开积累之上,OpenAI 并不是从地基开始一人砌完所有砖瓦的。

但我们认为,LeCun 和许多学院派科学家的视角,恰恰忽略了产品工程和敢于冒险本身就是一种极其稀缺的创新。技术公开不等于人人都做得出来,更不等于有人敢把它直接推向大众。OpenAI 的过人之处不在于发明底层物理定律,而在于把实验室里四散的零部件组装成一辆普通人能开走的跑车,并承受住上线后的舆论风暴。

对普通用户和开发者而言,学术界争论谁先提出概念并没有太大意义,好用、能用才是硬道理。现在去体验和接入这类大模型完全值得,因为它的工程化已经跨过了实用门槛。

这件事也彻底打破了大厂的安逸节奏。大公司因为「羽毛太爱惜」而不敢迈出的那一步,被一家没有包袱的初创公司直接踩穿了。接下来,不仅 Meta 不得不加快端出自己的生成式工具,Google 也必须被迫应对搜索领域的挑战。对于整个行业来说,比拼的赛场已经从「谁的论文发得早」,正式转向了「谁能把产品稳稳落到现实世界中」。

来源 (1)

  1. [1]
    zdnet.com(在新标签页打开)原文zdnet.com

每日 AI 内容精选