美两党提新法案：禁止 AI 单独发射核武器，必须由人把关

科幻电影里总有这样的桥段：超级电脑突然觉醒，绕过人类直接按下了核弹发射按钮。

现实中五角大楼其实早有规矩防着这一手，但几位美国国会议员觉得光有军方规矩还不够，必须白纸黑字写进联邦法律才保险。

本周早些时候，参议员 Edward Markey 联手众议员 Ted Lieu、Don Beyer 和 Ken Buck，跨党派提出了这项名为《阻止自主 AI 发射核武器法案》的新提案。

法案的核心内容很直接，禁止使用任何联邦资金，通过不受「有意义的人类控制」的自主武器系统来发射核武器。

军规已经有了，为什么还要立法

其实美国国防部在 2022 年就明确立过规矩。

军方的政策写得很清楚：在总统决定发起或终止使用核武器的所有关键环节中，美国在任何情况下都必须保证有「人在回路」（human in the loop）。

这次议员们提出的法案，本质上是把五角大楼现有的内部政策上升为正式法律。

法案规定，任何没有人类实质监督的自主系统，既不能发射核武器，也不能为了发射核武器而自主选择或锁定攻击目标。

既然五角大楼自己本来就不让 AI 碰核按钮，议员们为什么还要多此一举？

法案的发起人提到了美国国家人工智能安全委员会在 2021 年出炉的一份报告。该报告当时就建议，美国应当公开重申并确立禁止自主发射核武器的底线。

除了给自己人上锁，议员们更想通过这种明文立法，向外界释放信号，推动中国和俄罗斯也做出类似的承诺。

此外，发起该法案的几位议员此前还在推进其他核不扩散法案，比如限制总统单方面发动核战争权力的提案，这次立法也顺理成章成了他们反核扩散努力的一部分。

为什么重要

把 AI 挡在核按钮门外，看起来是个连常识都算不上的底线，但把它变成法案的做法相当聪明。

五角大楼的政策归根结底只是行政部门的内部规章，换一届政府或者遇到极端危机，军方内部规范随时可能被修改或豁免。一旦变成联邦法律，任何试图将自主决策引入核武链条的研发资金都会被直接切断。

对军工和 AI 行业来说，这也划定了一条不可逾越的高压红线。当前生成式 AI 和自主智能体技术跑得极快，各家防务承包商都在拼命把 AI 塞进指挥与控制系统，这条法案等于明确告诉他们，AI 可以辅助分析情报，但终审权绝不能自动化。

但真正的难点在于大国博弈。美国单方面立法固然可以抢占道德高地，但在地缘政治高度紧张的当下，指望仅凭一份国内法案就换来对手对等放弃自主武器决策，我们认为看起来有些过于理想化了。