跳到正文
IFAI

行业动态

Anthropic 澄清立场:从未主张封禁开源权重模型,重心应在芯片与安全测试

首次发布 传播指数 60

Anthropic 首席执行官 Dario Amodei 发文否认曾推动禁止开放权重模型。他表示保护主义禁令毫无用处,政策重心应放在限制先进芯片流向威权政权、打击规避限制的工业级蒸馏,以及对所有强能力模型推行强制安全测试。

Anthropic 澄清立场:从未主张封禁开源权重模型,重心应在芯片与安全测试
图:anthropic.com

当硅谷几乎所有巨头都在一份请愿书上签字画押的时候,没签字的那个人往往会被所有人盯着看。

上周,英伟达 CEO 黄仁勋在 X 平台发出了他的第一条推文,公开了一封力挺「开源权重模型」的联名信。随后几天,这份名单越滚越长,微软、Meta、Mistral、Hugging Face 都在上面,甚至连 OpenAI、Google、Amazon 和 SpaceX 也陆续签了名。整个头部 AI 圈子里,唯独缺了 Anthropic。

行业里很快传出窃窃私语,不少人指责 Anthropic 背后游说美国政府封杀中国开源模型,是在借国家安全之名搞贸易保护。7 月 27 日,Anthropic 首席执行官 Dario Amodei 终于坐不住了,专门发长文澄清:Anthropic 从未提议过禁止开源权重模型。

谁才是真正的假想敌

Amodei 开门见山地说,只要不具备危险能力,开源权重模型就是一种公共产品。它们除了运行所需的算力之外没有任何成本,能为开发者、企业和研究人员带来实在的价值。

他认为,一刀切封杀开源模型不仅抓错了重点,而且根本防不住真正的风险。他最担心的恶梦场景有两个,但没有一个是靠「禁止美国公司使用开源模型」就能解决的。

第一个风险是威权政府制造出比美国更强大的模型,从而获得永久性的军事优势或用于极深度的内部监控。Amodei 明确指出,真正危险的模型很可能是秘密训练、直接交给军队或情报部门使用的,这种模型根本不会开源。

第二个风险则是超强模型被用来发动网络攻击或制造生物武器。开源模型确实更难加装安全护栏,而且权重一旦发布就覆水难收。但 Amodei 强调,真正的网络罪犯或恐怖分子本来就不是守法的正规企业,限制美国公司使用开源模型,纯粹是在给本土 AI 公司消灭商业竞争对手,毫无防御意义。

比封杀模型更管用的三件事

既然禁止开源不是解药,那该怎么防?Amodei 列出了 Anthropic 真正支持的三项政策重点。

首先是继续卡死高端芯片和制造设备的出口,并且全力打击猖獗的走私和各种绕道租算力的手段。在他看来,在缩放定律面前,没有顶尖芯片,对手在算力物理层面上就造不出超越美国的前沿模型。

其次是严打「工业级模型蒸馏」。蒸馏是用小模型高频向大模型提问来学习其能力,算力效率极高。Amodei 指出,虽然蒸馏无法让对手彻底实现反超,但能把技术差距迅速缩小到几个月以内。很多发布开源模型的机构背后其实有国家力量支持,美国应该通过针对性的法律和商业框架来遏制这种洗劫知识产权的行为。

最后是建立强制性的模型安全测试。Amodei 赞同近期美国政府和业内的提议,主张对所有达到一定能力门槛的模型进行网络攻击和生物风险测试。无论模型是开源还是闭源,也无论来自哪个国家,都必须测过才能放行;初创团队和学术界的低风险模型则可以完全豁免。

Amodei 甚至认为,在防范生物武器这件事情上,中美之间存在合作的可能,因为这类灾难对任何政权都没有好处。

为什么重要

我们认为,Dario Amodei 这篇回应写得极其精明。面对整个行业联名孤立的公关危机,他没有死守闭源的优越感,而是迅速将自己和「保护主义」做切割,把支持开源开发者定义为理所当然的事。

但他手里的牌一点没软。他把刀刃换到了一个更致命的切口上,那就是模型蒸馏。如果未来美国政策真正将「大规模蒸馏」界定为违规侵权并实施制裁,全球开源社区利用前沿闭源 API 训练轻量化模型的常见路径,很可能会面临巨大的合规甚至法律风险。

对普通开发者和中小企业来说,只要你的项目不涉及前沿生物或网络武器级能力,这场争论暂时不会剥夺你使用开源权重的自由。Amodei 也明确支持豁免学术界和小团队,大家的开发成本短期内不会受到政策波及。

但看起来,AI 行业的阵营分化正在变得更加复杂。表面上看是开源与闭源的理念之争,深层里却是算力霸权、数据蒸馏与合规门槛的利益博弈。当头部大厂开始呼吁把安全测试上升到国家甚至国际公约层面时,前沿 AI 的准入门槛,事实上已经在被推向普通玩家再也碰不到的高地。

来源 (3)

  1. [1]
    anthropic.com(在新标签页打开)原文anthropic.com
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com
  3. [3]
    theverge.com(在新标签页打开)报道theverge.com

每日 AI 内容精选