美兩黨提新法案：禁止 AI 單獨發射核武器，必須由人把關

科幻電影裡總有這樣的橋段：超級電腦突然覺醒，繞過人類直接按下了核彈發射按鈕。

現實中五角大樓其實早有規矩防著這一手，但幾位美國國會議員覺得光有軍方規矩還不夠，必須白紙黑字寫進聯邦法律才保險。

本週早些時候，參議員 Edward Markey 聯手眾議員 Ted Lieu、Don Beyer 和 Ken Buck，跨黨派提出了這項名為《阻止自主 AI 發射核武器法案》的新提案。

法案的核心內容很直接，禁止使用任何聯邦資金，通過不受「有意義的人類控制」的自主武器系統來發射核武器。

軍規已經有了，為什麼還要立法

其實美國國防部在 2022 年就明確立過規矩。

軍方的政策寫得很清楚：在總統決定發起或終止使用核武器的所有關鍵環節中，美國在任何情況下都必須保證有「人在迴路」（human in the loop）。

這次議員們提出的法案，本質上是把五角大樓現有的內部政策上升為正式法律。

法案規定，任何沒有人類實質監督的自主系統，既不能發射核武器，也不能為了發射核武器而自主選擇或鎖定攻擊目標。

既然五角大樓自己本來就不讓 AI 碰核按鈕，議員們為什麼還要多此一舉？

法案的發起人提到了美國國家人工智慧安全委員會在 2021 年出爐的一份報告。該報告當時就建議，美國應當公開重申並確立禁止自主發射核武器的底線。

除了給自己人上鎖，議員們更想通過這種明文立法，向外界釋放訊號，推動中國和俄羅斯也做出類似的承諾。

此外，發起該法案的幾位議員此前還在推進其他核不擴散法案，比如限制總統單方面發動核戰爭權力的提案，這次立法也順理成章成了他們反核擴散努力的一部分。

為什麼重要

把 AI 擋在核按鈕門外，看起來是個連常識都算不上的底線，但把它變成法案的做法相當聰明。

五角大樓的政策歸根結底只是行政部門的內部規章，換一屆政府或者遇到極端危機，軍方內部規範隨時可能被修改或豁免。一旦變成聯邦法律，任何試圖將自主決策引入核武鏈條的研發資金都會被直接切斷。

對軍工和 AI 行業來說，這也劃定了一條不可逾越的高壓紅線。當前生成式 AI 和自主智慧體技術跑得極快，各家防務承包商都在拼命把 AI 塞進指揮與控制系統，這條法案等於明確告訴他們，AI 可以輔助分析情報，但終審權絕不能自動化。

但真正的難點在於大國博弈。美國單方面立法固然可以搶佔道德高地，但在地緣政治高度緊張的當下，指望僅憑一份國內法案就換來對手對等放棄自主武器決策，我們認為看起來有些過於理想化了。