Anthropic 拒绝军方施压：坚决不拆监控与自主武器安全护栏

如果军方掏出几十亿美元合同，要求你拆掉自家大模型的所有安全锁，任由它接管全自动杀伤性武器和全民监控，你答不答应？

Anthropic 创始人 Dario Amodei 的回答是：不干。即使五角大楼拿出最严厉的行政大棒威胁，也没能让他改口。

Anthropic 正式公开声明，拒绝向五角大楼妥协。军方此前要求承包商必须同意「任何合法用途」，并拆除大模型的安全护栏。面对施压，Anthropic 坚持保留两条红线：绝不能用于国内大规模监控，绝不能交给全自动武器自主杀人。

一张合同引发的封杀与威胁

Anthropic 并不是第一天和军方打交道。事实上，它是首家将前沿大模型部署到美国机密网络和国家实验室的 AI 公司，Claude 此前已经广泛用于军方的情报分析、模拟推演、作战规划和网络战。

为了维护技术优势，Anthropic 甚至主动放弃了数亿美元的收入，掐断了与涉军关联企业的合作。

但在这次的新合同谈判里，五角大楼首席技术官 Emil Michael 态度强硬：要么接受军方的条款，要么出局。军方拿出的筹码甚至互相打脸，一边威胁引用《国防生产法》强制 Anthropic 拆锁，相当于承认 Claude 对国家安全不可或缺；另一边又威胁要把这家本土明星创业公司定性为「供应链风险」。

这个标签以往只留给外国敌对势力，从来没有美国本土公司领过这种待遇。国防部长 Pete Hegseth 甚至在国会听证会上公开给 Dario 扣帽子，称他是个「意识形态疯子」。

最终，五角大楼将 Anthropic 踢出了机密部署名单，转头与 OpenAI、xAI、Google、微软、亚马逊、英伟达等公司达成了协议。而据报道，OpenAI 和 xAI 都已经签署了符合军方要求的新条款。

机器幻觉差点引爆一场真实危机

Anthropic 为什么宁可冒着被踢出局的风险也要死守这两条底线？Dario 给出的理由非常现实，不是空谈道德，而是现在的 AI 根本不可靠。

比如在全自动武器上，今天的大模型完全无法保证在战场上做出与训练有素的人类士兵相当的关键判断。缺乏人工介入的全自动武器，随时可能把枪口对准平民。

现实里的教训其实已经出现了。据 CNN 披露，美军今年春天在执行一次拦截任务前最后一刻才紧急叫停，当时战机已经升空，武装人员正准备登船突击一艘所谓的「运载核武零件的中国货船」。

事后复盘发现，这艘船的信息完全是军方分析师使用的 AI 聊天机器人幻觉凭空捏造出来的。彭博社也报道，五角大楼在调查一起致命空袭事故时，发现原因同样包括过度依赖尚未成熟的 AI 技术。

而在国内监控方面，问题在于法律往往追不上技术。按照现有规则，政府不需要搜查令就可以从公开市场上购买个人的行踪、上网记录等散碎数据。在以前，海量散碎数据没人看得过来；但如果接上强力 AI，这些原本无害的信息就能在一秒内被拼成一张无死角监控每一个公民生活的全景图。

为什么重要

这件事表面上是一家公司和军方的合同纠纷，实际上逼着整个 AI 行业回答同一个问题：技术公司的底线，到底能不能顶得住国家机器的意志？

从商业竞争的角度看，Anthropic 这次付出了极其高昂的代价。机密级政府订单向来是利润最丰厚、护城河最深的肥肉。OpenAI 和 xAI 顺坡下驴拿下了合同，虽然 OpenAI 随后补充了多层防御机制来限制监控，但军方选择它们而非 Anthropic，本身就说明了五角大楼更喜欢听话的供应商。一旦失去这些系统性合同，Anthropic 后续在国防市场的阵地很难再轻易拿回来。

但我们认为，Anthropic 的坚持走得非常聪明，甚至给整个行业树立了一个极其罕见的正向标杆。它没有全盘拒绝军工合作，而是精准划定了「监控公民」和「自主杀人」这两道连普通公众都极度敏感的红线。与其为了短期的几亿美元合同拆除安全围栏、承担未来AI误判导致真实惨案的灭顶风险，不如把安全底色坐实。尤其是近期接连曝光的 AI 幻觉险些酿成军事灾难的案例，几乎在替 Anthropic 的立场背书。

对于普通用户和开发者来说，这一仗的意义甚至更加切身。如果军方可以通过行政命令任意废除 AI 的安全限制，商业公司明天就能在大洋彼岸对普通人做一模一样的事情。AI 会不会变成一个无处不在的数字利维坦，取决于有没有核心实验室在关键时刻敢于踩下刹车。