跳到正文
IFAI

行业动态

Mythos 发布前夕:美副总统与财长闭门质询科技巨头 AI 安全

首次发布 传播指数 44

上周,美国副总统 JD Vance 与财政部长 Scott Bessent 在 Anthropic 发布 Mythos 前,与 Altman、Musk 等科技巨头 CEO 举行闭门电话会,深入质询大模型安全态势与防范黑客滥用。这表明在面临防务合同争议之际,Anthropic 仍处于白宫的核心关注圈内。

Mythos 发布前夕:美副总统与财长闭门质询科技巨头 AI 安全
图:cnbc.com

如果一款新 AI 模型发布前,连副总统、财政部长甚至美联储主席都要紧急摇人开会,那它带来的恐怕就不是写写周报这么简单的事了。

据 CNBC 报道,在上周 Anthropic 推出新模型 Mythos 之前,美国副总统 JD Vance 和财政部长 Scott Bessent 组织了一场极不寻常的闭门电话会议,盘问各大科技巨头关于大模型安全以及应对网络攻击的准备情况。

科技巨头闭门会,究竟在防什么

这场电话会议的阵容相当豪华。除了 Anthropic 首席执行官 Dario Amodei,知情人士透露,xAI 的 Elon Musk、Google 的 Sundar Pichai、OpenAI 的 Sam Altman、微软的 Satya Nadella,以及两家顶尖网络安全公司 CrowdStrike 的 George Kurtz 和 Palo Alto Networks 的 Nikesh Arora 也都接通了电话。

会上讨论的核心非常直白:大语言模型的安全姿态、如何安全部署,以及最关键的一个问题——如果 AI 模型能力的演进天平偏向了网络攻击者,各家该怎么应对。

Anthropic 方面拒绝直接评价这场会议,但相关负责人周五透露,最近几周他们一直就网络安全问题与高级官员保持沟通,并支持政府对该技术进行自主测试与评估。该负责人表示,在外部发布之前,他们已经向美国政府高层简报了 Mythos Preview 的完整能力,涵盖进攻端和防守端的网络安全应用,核心就是尽早让政府知情。

到了周二,Anthropic 正式将 Mythos 模型推送给极少数合作伙伴,用于评估如何防止黑客利用该技术。首批拿到权限的名单包括苹果、Google、微软、Nvidia、Palo Alto Networks 和 CrowdStrike。

甚至把美联储和华尔街也卷进来了

华盛顿的焦虑显然没有随着一个闭门电话打完而结束。

就在本周,财政部长 Scott Bessent 和美联储主席 Jerome Powell 又突击召集了美国几家最大银行的负责人开会,专门讨论 Mythos 可能带来的潜在威胁。这说明政府高层对先进网络工具可能冲击金融系统的担忧已经非常具体。

有意思的是,这也反映出 Anthropic 在白宫的微妙处境。尽管特朗普政府此前正试图将该公司的 Claude 平台从联邦机构中剔除,并且五角大楼将其定为供应链风险,但至少在最核心的 AI 安全讨论桌上,Anthropic 依然坐在重要位置。

目前 Anthropic 针对国防部封杀令的法律诉讼还在拉锯。周三一家联邦上诉法院驳回了其要求暂停黑名单的请求,而此前几周旧金山的一位联邦法官曾批准了其初步禁令。两地裁决冲突的结果是,Anthropic 暂时依然拿不到国防部合同,但还能继续为其他联邦机构提供服务。

为什么重要

我们认为,这场高级别电话会透露出一个明确信号:大模型竞赛的焦点正在从跑分刷榜,不可逆地转向网络攻防杀伤力。

对普通开发者和企业来说,Mythos 这种级别的模型短期内显然不会对公众随意开放。目前它被严格锁在几家头部科技公司和网安巨头手里做沙盒测试,这意味着企业和个人在很长一段时间里都只能通过被包裹好的安全产品间接体验其防御能力,直接调用的门槛极高。

对整个行业而言,这次事件立下了一个新规矩。以往发模型最多去相关机构备个案,现在如果你的模型具备强大的攻防能力,连财政部和美联储都会介入。这会倒逼所有头部 AI 实验室把安全红队测试的优先级提到最高,甚至可能催生出一套由少数巨头与政府联手制定的新型准入壁垒。

Anthropic 这步棋走得很聪明,提前拉政府做安全评估,既稀释了潜在的合规与法律风险,又用实力证明了自己的不可替代性。即便五角大楼在合规上步步紧逼,白宫在面对真正的下一代安全挑战时,依然不得不听 Amodei 怎么说。

来源 (1)

  1. [1]
    cnbc.com(在新标签页打开)原文cnbc.com

每日 AI 内容精选