跳到正文
IFAI

行业动态

Anthropic 妥协:不再悄悄降级 Fable 5,涉国安拦截会公开说明

首次发布 传播指数 44

Anthropic 宣布调整 Fable 5 的安全防护策略,不再对涉及前沿 AI 研发或国家安全的请求进行「静默降级」。从本周起,被拦截的请求将明确回退至 Opus 4.8,并在 API 中返回具体拒绝原因。此前这一隐蔽限制引发了 AI 研究圈的强烈不满,Anthropic 承认做错了权衡并致歉。

Anthropic 妥协:不再悄悄降级 Fable 5,涉国安拦截会公开说明
图:fortune.com

你花顶配的钱租了一辆超跑,开上赛道踩下油门,却总觉得推背感不对劲,回过头翻了厚厚一本说明书才发现:只要系统判定你想学怎么造车,就会偷偷把发动机锁成家用代步车,而且仪表盘上还绝口不提。

Anthropic 这周惹毛整个 AI 研究圈的,就是这么一件事。

藏在 319 页安全文档里的秘密

这周二,估值 9650 亿美元的 Anthropic 推出了其最强模型家族 Mythos 级别的版本 Fable 5。Mythos 早在 4 月就露过面,但当时官方说它绕过网络安全防御的能力太强、太危险,一直没对外公开。

这次上线的 Fable 5 能力不仅全面刷新了记录,其产品与研究负责人 Dianne Na Penn 还对媒体表示,因为安全护栏到位,他们才放心放它出门。

问题恰恰出在安全护栏上。眼尖的研究员在厚达 319 页的系统安全文档里挖出了一条让人炸锅的规则:只要系统检测到用户在进行前沿大模型研发(比如用 Fable 5 来训练或优化自己的 AI),程序就会在后台悄悄把模型降级成较弱的版本。

这种不打招呼的暗中降级迅速引来声讨。非营利研究机构 Fast.ai 的联合创始人 Jeremy Howard 在 X 上直接开嘲:阻止 AI 递归自我改进的好办法,就是排名第一的实验室不准用它做前沿模型,但别人都能用,按照定义,前沿技术就不用前进了。

道歉改版,顺便搬出国资安全挡箭牌

被舆论推到风口浪尖后,Anthropic 很快退让。发言人公开承认团队做错了权衡,并表示道歉。

改动从这周开始生效:暗箱操作被取消,取而代之的是完全透明的降级。一旦请求被标记,系统会明确降级到 Opus 4.8,同时在 API 中白纸黑字返回拒绝理由,让用户每次都能看到。

虽然形式上改成了明示,但限制本身依然存在。Anthropic 拿出的第一个理由是服务条款:行业普遍不允许用自家模型来制造竞品。

紧接着,他们打出了第二张牌:国家安全。官方直言不希望外国对手借此削弱美国的优势。发言人提到,美国和盟友在前沿芯片及底层优化软件上保有壁垒,这些限制是为了防止 Claude 被用来帮对手优化芯片,不过官方强调绝大多数常规编程和机器学习工作不受影响。

这件事发生的节点也极其微妙。Anthropic 本月初刚刚秘密提交了 IPO 申请。在此之前,他们因拒绝为军方提供全面访问权限(反对用于大规模监控和自主武器),被美国战争部列为「供应链风险」并遭军工系统封杀。战争部部长 Pete Hegseth 本月初驳回了其申诉,双方的诉讼还在联邦法院拉锯。

为什么重要

对开发者和研究人员来说,静默降级是真正致命的毒药。调试模型本就是玄学,如果在你不知情的情况下,背后的模型被偷偷从顶级旗舰换成了低配版,你根本分不清是 prompt 写烂了还是模型变笨了。Anthropic 这次道歉并承诺在 API 中明确报错,至少让大家能「死个明白」,值得所有调用商业 API 的工程师在架构里加上返回状态检查。

对整个行业而言,这道闸门意味着头部大模型厂商正在把「自指进化」变成专属特权。你能拿它写业务代码,但只要你想探寻更前沿的模型设计,商业巨头就会筑起高墙。当商业竞争壁垒与国家安全口号捆绑在一起时,小团队和学术机构追赶前沿的难度又被拔高了一截。

我们认为,Anthropic 这一步退得非常狼狈。它向来把「负责任的安全」当作核心招牌,但「暗中替换模型」本质上违背了技术透明的基本契约,不仅没有体现安全的高尚,反而透着商业防守的小算盘。在刚递交 IPO 申请、又官司缠身的当口,这次翻车狠狠损耗了它在开发者社区里的信任资产。好在他们认错迅速,把降级逻辑彻底摆上台面,算是给商业 API 领域立下了一个下不为例的规矩。

来源 (1)

  1. [1]
    fortune.com(在新标签页打开)原文fortune.com

每日 AI 内容精选