Yan LeCun 發文警告:扼殺開源 AI 將讓少數巨頭壟斷知識
Yan LeCun 發文批評部分科技高管借末日論遊說監管、試圖封殺開源 AI。他指出,未來 AI 承載全人類知識,必須像維基百科一樣保持開源;一旦監管消滅開源,少數美中巨頭將壟斷平臺並徹底控制人類的數字生活。
如果幾家科技巨頭把持了未來的全部人類知識,這算不算一場災難?在 Meta 首席 AI 科學家 Yann LeCun 看來,這比所謂 AI 毀滅人類的末日預言要現實得多,也危險得多。
LeCun 在社交平臺上直接點名,將矛頭對準了矽谷同行和學術界老友。他公開表示,Sam Altman、Demis Hassabis 和 Dario Amodei 正在進行大規模的商業遊說,試圖對 AI 行業實施監管俘獲。
誰在用末日論搞監管俘獲
LeCun 認為,現在的局面極其危險。OpenAI 的 Altman、Google DeepMind 的 Hassabis 以及 Anthropic 的 Amodei,正在通過遊說推動對開源 AI 研發的禁令。
更讓他坐不住的是,同為深度學習先驅的 Geoffrey Hinton、Yoshua Bengio,以及知名學者 Stuart Russell,正在給這些遊說者遞彈藥。LeCun 直言,這幾位學者四處傳播的末日論純屬危言聳聽,但他們巨大的影響力恰好被巨頭拿來當槍使。
在 LeCun 看來,絕大多數學術界同行都堅決支援開源 AI 研發,極少有人相信那種毀滅論。監管應該落在具體產品的部署上,而不是在研發階段就設卡。去監管研發,本質上就是預設研究人員和機構要麼無能、要麼自取滅亡甚至心存惡意。
針對所謂失控風險,LeCun 解釋說,未來的強 AI 系統完全可以通過目標驅動來構建安全邊界。現在的自迴歸大語言模型確實缺乏這種目標驅動能力,但絕不能把當前的技術缺陷直接外推成未來的終極威脅。
知識庫不能變成幾家大廠的私產
LeCun 強調,AI 正在成為整個人類知識與文化的超級載體。要讓它真正代表全部人類的多樣性,就必須像維基百科那樣,依靠全球大眾的協作與貢獻。
這種協作的前提,是底層平臺必須徹底開源且人人可用。閉門造車是做不出真正的文明知識庫的。
一旦開源 AI 被監管徹底掐死,結果只有一個:全球使用者的全部數字食糧,將被美國西海岸和中國的極少數巨頭死死掐在手裡。LeCun 質問,到那時,文化的多元性和民主又該靠什麼維繫?他坦言,這才是真正讓他夜不能寐的噩夢。
為什麼重要
這場公開爭論把 AI 陣營的分裂徹底擺上了檯面。對於廣大開發者和創業團隊來說,這絕不是神仙打架,而是直接關係到未來能不能自由呼叫基礎模型、會不會被幾家閉源巨頭收重稅的生死問題。
開源生態如果被扣上不安全的帽子扼殺在搖籃裡,普通人和小公司就只能充當巨頭生態裡的付費租客,沒有任何掌控權。現在去支援開源模型、參與開源社群,不僅是技術選型,更是用腳投票。
我們認為,LeCun 這次指出的痛點非常尖銳。三巨頭以安全為由推動監管,客觀上確實極易築起高高的合規壁壘,把後來的挑戰者攔在門外。這種做法在商業上極其精明,但對創新環境卻可能帶來致命打擊。
不過,LeCun 的論據也並非毫無破綻。他指責對手放大了自迴歸模型的缺陷,但他自己構想的目標驅動安全體系目前仍停留在理論和實驗室構想中。在真正的安全架構落地前,完全開放開源模型是否會被惡意利用,依然是開源派無法徹底迴避的現實難題。
來源 (1)
- @ylecun(在新分頁開啟)原文twitter.com
話題追蹤Meta 的開源 AI 策略與爭議
- Meta AI 負責人發聲:傳統開源協議管不住大模型,規則該改了
- Yan LeCun 發文警告:扼殺開源 AI 將讓少數巨頭壟斷知識本則
- Meta 首席科學家 LeCun:AI 滅絕人類純屬荒誕,連貓都比不過
- 扎克伯格參院AI論壇發言:力挺開源與安全兩大核心
- Meta 首席 AI 科學家 Yann LeCun 為何不買賬「AI 末日論」