跳到正文
IFAI

行业动态

OpenAI 与五角大楼达成机密网络协议:设技术安全护栏

首次发布 传播指数 57

周五晚,OpenAI 宣布与美国国防部达成协议,允许其 AI 模型进入机密网络。协议规定禁止国内大规模监控并保留对自主武器的人类控制责任,OpenAI 将自建安全护栏并派驻工程师。在 Anthropic 因同类红线遭政府封杀之际,此协议备受瞩目。

OpenAI 与五角大楼达成机密网络协议:设技术安全护栏
图:techcrunch.com

前脚五角大楼刚把 Anthropic 骂成极左并直接拉进黑名单,后脚 OpenAI 就把自家的模型送进了美军的涉密网络。

在外界看来,这像是一场戏剧性的趁虚而入,但 Sam Altman 却给出了完全相反的说法。周五晚间,Altman 宣布与美国国防部达成协议,允许军方在涉密环境中使用 OpenAI 的前沿模型。更戏剧化的是,Altman 宣称这份协议不仅保留了 Anthropic 之前苦苦争取的安全红线,甚至在技术上防得更严,他还呼吁五角大楼把同样的条款给所有 AI 公司。

一场关于红线的极限施压

这场风波的导火索是五角大楼向各家模型厂商施压,要求军方可以将 AI 用于一切合法用途。Anthropic 首席执行官 Dario Amodei 坚决不肯松口,咬死了两条绝对红线:不能用于对美国国内公民的大规模监控,不能用于没有人类介入的全自动致命武器系统。

五角大楼新任国防部长 Pete Hegseth 的反应极其激烈,指责 Anthropic 妄图夺取美军作战行动的否决权。据报道,军方一度拿出三选一的最后通牒:要么删掉安全限制,要么终止 2 亿美元合同并贴上供应链风险标签,甚至动用国防生产法强制执行。

随后,特朗普在社交平台上痛批 Anthropic 是极左疯子,下令联邦机构在六个月内清退其产品。紧接着 Hegseth 宣布将 Anthropic 定性为供应链风险,严禁任何美军承包商或供应商与其开展商业往来。Anthropic 则表示会向法院提起诉讼。期间,OpenAI 有 60 多名员工、Google 有 300 多名员工签署联名信,公开声援 Anthropic。

纯云端部署与不能强迫执行的安全栈

就在大家以为军方要逼着所有实验室彻底交出控制权时,OpenAI 签了字,并且拿出了自己的方案。

Altman 在社交平台和随后的全员会上透露,五角大楼其实接受了那几条关键红线,并把它们落实在了法律和合同文本中。协议明确禁止将技术用于对美国人的国内监控,也不能通过购买商业个人数据来绕过限制,甚至直接把 NSA 等情报机构排除在外,若要使用必须另立合同。

技术实现上,OpenAI 坚持了纯云端部署,坚决不在边缘端设备上运行,以此阻断模型直接控制无人机或致命武器的可能性。OpenAI 会保留完整的安全栈控制权,派遣通过安全审查的工程师进驻五角大楼进行监督,并持续运行审核分类器。Altman 对员工表示,如果模型拒绝执行某项任务,政府无权强迫 OpenAI 逼迫模型去执行。

Altman 表示希望通过这套方案促成局势降温,让军方停止法律和行政层面的惩罚动作,给其他实验室提供一条可参照的合作路径。

为什么重要

我们认为,OpenAI 这次展现出了极其老练的政商手腕,但这场博弈留下的隐患远没有化解。

从表面上看,OpenAI 的做法非常聪明。它没有像 Anthropic 那样选择公开对抗,而是把原则问题转化成了系统架构问题:既然军方要求合法使用,那就用云端访问、内置安全栈和拒绝权筑起一道技术防线。如果这套条款真能推广到全行业,既保住了前沿实验室的安全底线,又让开发者不用在良知和政府订单之间被迫站队。

但看起来,这种平衡依然脆弱。在法律层面,合同中的措辞是按照现有法律和部门政策界定人类控制权,而政策和法律的解释权往往掌握在军方自己手里。所谓的安全栈到底是由 OpenAI 的分类器说了算,还是最终会被紧急状态下的行政命令突破,目前谁也无法打包票。特别是就在消息传出前后,美以对伊朗的军事行动已经展开,实战环境下对自动化决策的渴望只会越来越强。

对于整个 AI 行业而言,这次事件立下了一个危险的先例。Anthropic 因为坚守安全防线被扣上供应链风险的帽子,甚至面临被整个国防承包商生态封杀的风险,这说明政府已经开始动用行政铁拳来重塑 AI 公司的原则。OpenAI 哪怕拿到了所谓的护栏,本质上也是在军方划定的游戏规则内达成的妥协。军工订单这块巨大的利益诱惑面前,前沿实验室的技术中立神话正在彻底破灭。

来源 (4)

  1. [1]
    wsj.com(在新标签页打开)原文wsj.com
  2. [2]
    openai.com(在新标签页打开)报道openai.com
  3. [3]
    techcrunch.com(在新标签页打开)报道techcrunch.com
  4. [4]
    axios.com(在新标签页打开)报道axios.com

每日 AI 内容精选