Anthropic 拒絕軍方施壓：堅決不拆監控與自主武器安全護欄

如果軍方掏出幾十億美元合同，要求你拆掉自家大模型的所有安全鎖，任由它接管全自動殺傷性武器和全民監控，你答不答應？

Anthropic 創始人 Dario Amodei 的回答是：不幹。即使五角大樓拿出最嚴厲的行政大棒威脅，也沒能讓他改口。

Anthropic 正式公開宣告，拒絕向五角大樓妥協。軍方此前要求承包商必須同意「任何合法用途」，並拆除大模型的安全護欄。面對施壓，Anthropic 堅持保留兩條紅線：絕不能用於國內大規模監控，絕不能交給全自動武器自主殺人。

一張合同引發的封殺與威脅

Anthropic 並不是第一天和軍方打交道。事實上，它是首家將前沿大模型部署到美國機密網路和國家實驗室的 AI 公司，Claude 此前已經廣泛用於軍方的情報分析、模擬推演、作戰規劃和網路戰。

為了維護技術優勢，Anthropic 甚至主動放棄了數億美元的收入，掐斷了與涉軍關聯企業的合作。

但在這次的新合同談判裡，五角大樓技術長 Emil Michael 態度強硬：要麼接受軍方的條款，要麼出局。軍方拿出的籌碼甚至互相打臉，一邊威脅引用《國防生產法》強制 Anthropic 拆鎖，相當於承認 Claude 對國家安全不可或缺；另一邊又威脅要把這家本土明星創業公司定性為「供應鏈風險」。

這個標籤以往只留給外國敵對勢力，從來沒有美國本土公司領過這種待遇。國防部長 Pete Hegseth 甚至在國會聽證會上公開給 Dario 扣帽子，稱他是個「意識形態瘋子」。

最終，五角大樓將 Anthropic 踢出了機密部署名單，轉頭與 OpenAI、xAI、Google、微軟、亞馬遜、輝達等公司達成了協議。而據報道，OpenAI 和 xAI 都已經簽署了符合軍方要求的新條款。

機器幻覺差點引爆一場真實危機

Anthropic 為什麼寧可冒著被踢出局的風險也要死守這兩條底線？Dario 給出的理由非常現實，不是空談道德，而是現在的 AI 根本不可靠。

比如在全自動武器上，今天的大模型完全無法保證在戰場上做出與訓練有素的人類士兵相當的關鍵判斷。缺乏人工介入的全自動武器，隨時可能把槍口對準平民。

現實裡的教訓其實已經出現了。據 CNN 披露，美軍今年春天在執行一次攔截任務前最後一刻才緊急叫停，當時戰機已經升空，武裝人員正準備登船突擊一艘所謂的「運載核武零件的中國貨船」。

事後復盤發現，這艘船的資訊完全是軍方分析師使用的 AI 聊天機器人幻覺憑空捏造出來的。彭博社也報道，五角大樓在調查一起致命空襲事故時，發現原因同樣包括過度依賴尚未成熟的 AI 技術。

而在國內監控方面，問題在於法律往往追不上技術。按照現有規則，政府不需要搜查令就可以從公開市場上購買個人的行蹤、上網記錄等散碎資料。在以前，海量散碎資料沒人看得過來；但如果接上強力 AI，這些原本無害的資訊就能在一秒內被拼成一張無死角監控每一個公民生活的全景圖。

為什麼重要

這件事表面上是一家公司和軍方的合同糾紛，實際上逼著整個 AI 行業回答同一個問題：技術公司的底線，到底能不能頂得住國家機器的意志？

從商業競爭的角度看，Anthropic 這次付出了極其高昂的代價。機密級政府訂單向來是利潤最豐厚、護城河最深的肥肉。OpenAI 和 xAI 順坡下驢拿下了合同，雖然 OpenAI 隨後補充了多層防禦機制來限制監控，但軍方選擇它們而非 Anthropic，本身就說明了五角大樓更喜歡聽話的供應商。一旦失去這些系統性合同，Anthropic 後續在國防市場的陣地很難再輕易拿回來。

但我們認為，Anthropic 的堅持走得非常聰明，甚至給整個行業樹立了一個極其罕見的正向標杆。它沒有全盤拒絕軍工合作，而是精準劃定了「監控公民」和「自主殺人」這兩道連普通公眾都極度敏感的紅線。與其為了短期的幾億美元合同拆除安全圍欄、承擔未來AI誤判導致真實慘案的滅頂風險，不如把安全底色坐實。尤其是近期接連曝光的 AI 幻覺險些釀成軍事災難的案例，幾乎在替 Anthropic 的立場背書。

對於普通使用者和開發者來說，這一仗的意義甚至更加切身。如果軍方可以通過行政命令任意廢除 AI 的安全限制，商業公司明天就能在大洋彼岸對普通人做一模一樣的事情。AI 會不會變成一個無處不在的數字利維坦，取決於有沒有核心實驗室在關鍵時刻敢於踩下剎車。