Yan LeCun 发文警告:扼杀开源 AI 将让少数巨头垄断知识
Yan LeCun 发文批评部分科技高管借末日论游说监管、试图封杀开源 AI。他指出,未来 AI 承载全人类知识,必须像维基百科一样保持开源;一旦监管消灭开源,少数美中巨头将垄断平台并彻底控制人类的数字生活。
如果几家科技巨头把持了未来的全部人类知识,这算不算一场灾难?在 Meta 首席 AI 科学家 Yann LeCun 看来,这比所谓 AI 毁灭人类的末日预言要现实得多,也危险得多。
LeCun 在社交平台上直接点名,将矛头对准了硅谷同行和学术界老友。他公开表示,Sam Altman、Demis Hassabis 和 Dario Amodei 正在进行大规模的商业游说,试图对 AI 行业实施监管俘获。
谁在用末日论搞监管俘获
LeCun 认为,现在的局面极其危险。OpenAI 的 Altman、Google DeepMind 的 Hassabis 以及 Anthropic 的 Amodei,正在通过游说推动对开源 AI 研发的禁令。
更让他坐不住的是,同为深度学习先驱的 Geoffrey Hinton、Yoshua Bengio,以及知名学者 Stuart Russell,正在给这些游说者递弹药。LeCun 直言,这几位学者四处传播的末日论纯属危言耸听,但他们巨大的影响力恰好被巨头拿来当枪使。
在 LeCun 看来,绝大多数学术界同行都坚决支持开源 AI 研发,极少有人相信那种毁灭论。监管应该落在具体产品的部署上,而不是在研发阶段就设卡。去监管研发,本质上就是预设研究人员和机构要么无能、要么自取灭亡甚至心存恶意。
针对所谓失控风险,LeCun 解释说,未来的强 AI 系统完全可以通过目标驱动来构建安全边界。现在的自回归大语言模型确实缺乏这种目标驱动能力,但绝不能把当前的技术缺陷直接外推成未来的终极威胁。
知识库不能变成几家大厂的私产
LeCun 强调,AI 正在成为整个人类知识与文化的超级载体。要让它真正代表全部人类的多样性,就必须像维基百科那样,依靠全球大众的协作与贡献。
这种协作的前提,是底层平台必须彻底开源且人人可用。闭门造车是做不出真正的文明知识库的。
一旦开源 AI 被监管彻底掐死,结果只有一个:全球用户的全部数字食粮,将被美国西海岸和中国的极少数巨头死死掐在手里。LeCun 质问,到那时,文化的多元性和民主又该靠什么维系?他坦言,这才是真正让他夜不能寐的噩梦。
为什么重要
这场公开争论把 AI 阵营的分裂彻底摆上了台面。对于广大开发者和创业团队来说,这绝不是神仙打架,而是直接关系到未来能不能自由调用基础模型、会不会被几家闭源巨头收重税的生死问题。
开源生态如果被扣上不安全的帽子扼杀在摇篮里,普通人和小公司就只能充当巨头生态里的付费租客,没有任何掌控权。现在去支持开源模型、参与开源社区,不仅是技术选型,更是用脚投票。
我们认为,LeCun 这次指出的痛点非常尖锐。三巨头以安全为由推动监管,客观上确实极易筑起高高的合规壁垒,把后来的挑战者拦在门外。这种做法在商业上极其精明,但对创新环境却可能带来致命打击。
不过,LeCun 的论据也并非毫无破绽。他指责对手放大了自回归模型的缺陷,但他自己构想的目标驱动安全体系目前仍停留在理论和实验室构想中。在真正的安全架构落地前,完全开放开源模型是否会被恶意利用,依然是开源派无法彻底回避的现实难题。
来源 (1)
- @ylecun(在新标签页打开)原文twitter.com
话题追踪Meta 的开源 AI 策略与争议
- Meta AI 负责人发声:传统开源协议管不住大模型,规则该改了
- Yan LeCun 发文警告:扼杀开源 AI 将让少数巨头垄断知识本条
- Meta 首席科学家 LeCun:AI 灭绝人类纯属荒诞,连猫都比不过
- 扎克伯格参院AI论坛发言:力挺开源与安全两大核心
- Meta 首席 AI 科学家 Yann LeCun 为何不买账「AI 末日论」