跳到正文
IFAI

行业动态

Amazon CEO 提安全隐患:美政府限制外籍人员访问 Anthropic 新模型

首次发布 传播指数 60

本周,Amazon CEO Andy Jassy 等科技高管向特朗普政府高级官员反映 Anthropic 最新模型的安全风险。这些对话直接促成美国出台新出口管制,限制外籍人员访问名为 Mythos 和 Fable 的模型。这也标志着科技巨头正通过游说直接左右联邦 AI 安全政策。

Amazon CEO 提安全隐患:美政府限制外籍人员访问 Anthropic 新模型
图:fortune.com

商场上最狠的一刀,往往不是来自明面上的对手,而是来自自家的大股东。

Anthropic 刚刚在 6 月 9 日发布了新一代大模型 Claude Fable 5 和 Mythos 5,号称性能超越以往任何公开发布的版本。结果上线不到三天,白宫一纸出口管制命令直接砸了下来,要求切断所有外国公民的访问权限。

Anthropic 索性按下了核按钮,直接向全球所有用户拔掉了这两个模型的网线。随后多家媒体爆出内幕:在白宫背后直接推了一把的,正是 Anthropic 的最大金主之一、亚马逊首席执行官 Andy Jassy。

盟友的越狱举报与 24 小时通牒

据《华尔街日报》和路透社等多家媒体报道,Andy Jassy 本周亲自找了美国财政部长 Scott Bessent 等政府高层,递交了一份安全报告。亚马逊的研究人员发现,他们能通过特定的越狱提示词,让 Claude Fable 5 输出可直接用于网络攻击的信息。

这番沟通迅速引爆了白宫的神经。特朗普政府的前 AI 负责人、现任总统科技顾问委员会联合主席 David Sacks 随后在公开表态中还原了当时的火药味。

David Sacks 透露,一个极具公信力的核心伙伴拿着越狱漏洞找上了政府,白宫随即给 Anthropic 首席执行官 Dario Amodei 下了通牒:要么立刻修复这个越狱问题,要么主动撤回模型。但 Dario Amodei 当场拒绝了。

紧接着在 6 月 12 日,政府以国家安全为由祭出紧急出口管制,不仅禁止海外用户使用,甚至要求禁止美国境内的外国公民以及 Anthropic 自己的外籍员工接触这两款模型。

拔掉全球网线的被动反击

面对这种几乎无法在技术上精准执行的禁令,Anthropic 选择了最决绝的应对方式:把 Fable 5 和 Mythos 5 全部下线。

Anthropic 在声明中毫不客气地表达了抗议。他们认为,仅仅因为发现了一个狭窄的潜在越狱漏洞,就要求召回一款面向数亿人的商用模型,这种做法完全站不住脚。更何况,类似的生成能力在其他公开的大模型里早就存在。

尴尬的是,亚马逊自己的云服务 AWS 同样因为这次停运受到了直接波及。面对外界质疑,亚马逊发言人只是回应称,政府就安全风险向大企业寻求建议很常见,公司不会透露具体讨论细节。

这场风波其实只是 Anthropic 与白宫一系列冲突的最新一幕。此前这家 AI 独角兽就因为拒绝为军方取消技术使用红线,一度遭到五角大楼的封杀,直到近期加州联邦法院才裁定军方的封杀令违宪。

为什么重要

我们认为,这件事最耐人寻味的地方,在于巨头之间博弈规则的彻底改变。过去科技大厂竞争拼的是算力和产品迭代,现在看起来,直接把未公开的安全缺陷捅给白宫高级官员,成了遏制对手甚至遏制被投伙伴最立竿见影的武器。

对于正在使用 Anthropic 模型的开发者和企业来说,这是一个非常危险的信号。今天云厂商可以因为模型存在被越狱的可能,就推动政府施加出口管制,明天任何前沿模型的商业连续性都可能在 24 小时内归零。把核心业务押注在单一闭源前沿模型上的风险,被这次事件无限放大了。

从监管层面来看,这种通过非公开对话触发的闪电禁令,开了一个很糟糕的先例。如果白宫可以不需要公开听证和透明技术评估,仅凭个别大厂高管的闭门陈词就紧急封杀商用模型,未来的 AI 安全红线将彻底沦为政治博弈和商业游说的工具。

来源 (3)

  1. [1]
    x.com(在新标签页打开)原文x.com
  2. [2]
    politico.com(在新标签页打开)报道politico.com
  3. [3]
    techcrunch.com(在新标签页打开)报道techcrunch.com

每日 AI 内容精选