跳到正文
IFAI

產業動態

Meta 首席科學家評 ChatGPT:並非革命性創新,本質是工程整合

首次發布 傳播指數 39

上週,Meta 首席 AI 科學家 Yann LeCun 在交流中表示,ChatGPT 在底層技術上談不上顛覆性創新,Transformer 與自監督學習等核心技術早已存在。在他看來,OpenAI 並非實現了科學突破,而是完成了一次非常出色的工程工程化整合。

Meta 首席科學家評 ChatGPT:並非革命性創新,本質是工程整合
圖:zdnet.com

大家都在驚歎 ChatGPT 像外星科技一樣從天而降,但圖靈獎得主、Meta 首席 AI 科學家 Yann LeCun 顯然不這麼看。

在上週由 Collective[i] 舉辦的一場線上討論中,LeCun 面對《紐約時報》記者 Cade Metz 的提問,直接給火遍全球的 ChatGPT 潑了盆冷水。他直言,從底層技術來看,ChatGPT「沒有什麼特別的創新」,也「談不上革命性」,雖然公眾眼裡它驚為天人,但實際上它只是「組合得很好、工程實現很漂亮」。

拼圖遊戲,而不是從零發明

在 LeCun 看來,OpenAI 絕不是在這個領域單打獨鬥,甚至根本沒有比其他頂尖實驗室領先多少。無論是 Google、Meta,還是市面上半打初創公司,其實都掌握著非常類似的技術,背後沒有任何不可告人的秘密。

他順著技術脈絡拆解了一遍。ChatGPT 依賴的是在大規模語料上做自監督預訓練的 Transformer 架構,而自監督學習是他自己早在 OpenAI 成立前就一直呼籲的方向。至於 Transformer 架構本身,則是 Google 在 2017 年的發明。

再往前倒推二十年,加拿大 MILA 研究所所長 Yoshua Bengio 很早就提出了神經網路語言模型,以及後來被 Transformer 借鑑的注意力機制原型。就連 ChatGPT 賴以改善回答質量的關鍵手段——人類反饋強化學習(RLHF),最初也是由 Google 旗下的 DeepMind 團隊探索出來的。LeCun 認為,ChatGPT 絕不是憑空跳出來的神蹟,而是一整串漫長技術史的產物。

他打了個比方,ChatGPT 更像是優秀的工程作品,比如 2011 年參加智力競賽的 IBM Watson,或者 2005 年贏得 DARPA 自動駕駛挑戰賽的參賽車。底層科學沒有什麼突破,但工程完成度極高,LeCun 表示自己並不會就這一點去批評 OpenAI。

為什麼巨頭之前不拿出來?

既然技術大家都會,為什麼先引爆全世界的是 OpenAI,而不是坐擁海量資源和頂尖人才的 Google 或 Meta?

LeCun 笑著給出了答案:像 Google 和 Meta 這樣體量的大公司,如果釋出一個張口就胡說八道、滿嘴跑火車的系統,要承擔的聲譽風險和損失實在太大了。

但他明確表示,Meta 未來也會拿出類似的產品。不僅限於文本生成,還包括生成式藝術等創作輔助工具。LeCun 提到,Facebook 上有大約 1200 萬家投放廣告的商戶,其中絕大部分是小夫妻店,根本沒有預算僱人做廣告設計,生成式內容工具對他們來說會非常有用。

為什麼重要

從技術淵源來看,LeCun 講的全都是大實話。大語言模型今天的繁榮,確實建立在 Bengio 的早期工作、Google 的 Transformer 論文以及 DeepMind 的 RLHF 等公開積累之上,OpenAI 並不是從地基開始一人砌完所有磚瓦的。

但我們認為,LeCun 和許多學院派科學家的視角,恰恰忽略了產品工程和敢於冒險本身就是一種極其稀缺的創新。技術公開不等於人人都做得出來,更不等於有人敢把它直接推向大眾。OpenAI 的過人之處不在於發明底層物理定律,而在於把實驗室裡四散的零部件組裝成一輛普通人能開走的跑車,並承受住上線後的輿論風暴。

對普通使用者和開發者而言,學術界爭論誰先提出概念並沒有太大意義,好用、能用才是硬道理。現在去體驗和接入這類大模型完全值得,因為它的工程化已經跨過了實用門檻。

這件事也徹底打破了大廠的安逸節奏。大公司因為「羽毛太愛惜」而不敢邁出的那一步,被一家沒有包袱的初創公司直接踩穿了。接下來,不僅 Meta 不得不加快端出自己的生成式工具,Google 也必須被迫應對搜尋領域的挑戰。對於整個行業來說,比拼的賽場已經從「誰的論文發得早」,正式轉向了「誰能把產品穩穩落到現實世界中」。

來源 (1)

  1. [1]
    zdnet.com(在新分頁開啟)原文zdnet.com

每日 AI 內容精選