跳到正文
IFAI

行业动态

扎克伯格参院AI论坛发言:力挺开源与安全两大核心

首次发布 传播指数 35

Meta CEO 扎克伯格在美国参院 AI 论坛发言,指出当前 AI 最关键的问题是安全与访问权限。他为 Llama 2 的开源路线辩护,认为开源更安全且能确立技术标准,但也承诺若未来接近超智能水平将重新评估策略。

扎克伯格参院AI论坛发言:力挺开源与安全两大核心
图:about.fb.com

把一群科技巨头高管同时拉进美国国会闭门听证,平时互相掐架的 CEO 们居然坐到了一张桌子前。

Meta 创始人兼 CEO Mark Zuckerberg 在参议院举行的 AI 洞察论坛上发表开场发言。面对议员们对技术的担忧,Zuckerberg 把核心论调定在了两个词上:安全与准入。

开源不是狂热,但标准得由美国定

比起 OpenAI 或 Google 对前沿模型代码的严防死守,Meta 这次去国会最大的底牌依然是开源。

Zuckerberg 明确表示,国会确实应该介入监管并支持创新,但他强调不能把眼光只锁在生成式 AI 上,计算机视觉、自然语言处理和机器人技术同样在推进。

谈到 Meta 开源 Llama 2 的决定,他特意对议员们解释,Meta 并不是无脑开源一切的狂热分子。闭源模型有其价值,但在现有技术阶段,开源往往能释放更大的经济潜能。

更有意思的是他的地缘逻辑。Zuckerberg 直接对国会议员点名:目前除了美国,下一个领先的开源模型来自阿布扎比(暗示 Falcon),其他国家也在紧追不舍。

在他看来,如果美国公司不去占据开源生态的高地,全球的技术标准就会被别人制定。由愿意配合美国政府规范的本土公司来主导开源,显然对美国更有利。

四重防线与「超级智能」的红线

为了打消国会对开源可能让恶意分子钻空子的顾虑,Zuckerberg 列出了 Meta 保证安全的几道关卡。

首先是训练数据的筛选和内外部的大规模红队测试;其次是后期的对齐微调;最后是联合云服务提供商,在部署端给模型加上过滤防护网。

他搬出了软件行业经典的开源逻辑:更多人能看到代码,就意味着更多人能挑出漏洞并修复,系统反而在整体上更安全。

不过,Zuckerberg 也留下了一条后路。他向议员们承诺,如果未来某一天,AI 系统的能力开始接近所谓的「超级智能」,这种利益平衡点就会彻底改变,届时 Meta 会重新评估开源路线。

为什么重要

在闭源阵营频频向监管机构兜售 AI 毁灭论、试图给大模型准入设立极高牌照门槛的时候,Meta 这次把开源包装成了关乎国家竞争力的战略抓手。

我们认为,Zuckerberg 这一步走得相当精明。他没有空洞地辩解 Meta 是一家好公司,而是把开源 Llama 2 绑定到了捍卫技术霸权和对抗海外竞争的叙事上。对国会议员来说,这种基于地缘博弈的论调显然比纯粹的极客情怀好懂得多。

对开发者和中小企业来说,这算是一个定心丸。至少在短期内,Meta 不会因为华盛顿的监管压力而迅速关停开源大模型的供给,大家依然能借着 Llama 系列搭建低成本的私有化应用。

但这里的隐患也同样明显。开源模型的权重一旦放出去,任何本地运行的红队补丁和云端过滤都可以被懂行的人一键抹除。Zuckerberg 口中的「多方协作过滤」,对真正有恶意的本地黑客来说几乎形同虚设。只要开源阵营的基座能力越强,这种在国会山勉强维系的安全承诺,受到的考验就会越严峻。

来源 (1)

  1. [1]
    about.fb.com(在新标签页打开)原文about.fb.com

话题追踪Meta 的开源 AI 策略与争议

这个话题的历次新闻,最新的在上面。

  1. Meta AI 负责人发声:传统开源协议管不住大模型,规则该改了
  2. Yan LeCun 发文警告:扼杀开源 AI 将让少数巨头垄断知识
  3. Meta 首席科学家 LeCun:AI 灭绝人类纯属荒诞,连猫都比不过
  4. 扎克伯格参院AI论坛发言:力挺开源与安全两大核心本条
  5. Meta 首席 AI 科学家 Yann LeCun 为何不买账「AI 末日论」

每日 AI 内容精选