跳到正文
IFAI

產業動態

OpenAI 與五角大樓達成機密網路協議:設技術安全護欄

首次發布 傳播指數 57

週五晚,OpenAI 宣佈與美國國防部達成協議,允許其 AI 模型進入機密網路。協議規定禁止國內大規模監控並保留對自主武器的人類控制責任,OpenAI 將自建安全護欄並派駐工程師。在 Anthropic 因同類紅線遭政府封殺之際,此協議備受矚目。

OpenAI 與五角大樓達成機密網路協議:設技術安全護欄
圖:techcrunch.com

前腳五角大樓剛把 Anthropic 罵成極左並直接拉進黑名單,後腳 OpenAI 就把自家的模型送進了美軍的涉密網路。

在外界看來,這像是一場戲劇性的趁虛而入,但 Sam Altman 卻給出了完全相反的說法。週五晚間,Altman 宣佈與美國國防部達成協議,允許軍方在涉密環境中使用 OpenAI 的前沿模型。更戲劇化的是,Altman 宣稱這份協議不僅保留了 Anthropic 之前苦苦爭取的安全紅線,甚至在技術上防得更嚴,他還呼籲五角大樓把同樣的條款給所有 AI 公司。

一場關於紅線的極限施壓

這場風波的導火索是五角大樓向各家模型廠商施壓,要求軍方可以將 AI 用於一切合法用途。Anthropic 執行長 Dario Amodei 堅決不肯鬆口,咬死了兩條絕對紅線:不能用於對美國國內公民的大規模監控,不能用於沒有人類介入的全自動致命武器系統。

五角大樓新任國防部長 Pete Hegseth 的反應極其激烈,指責 Anthropic 妄圖奪取美軍作戰行動的否決權。據報道,軍方一度拿出三選一的最後通牒:要麼刪掉安全限制,要麼終止 2 億美元合同並貼上供應鏈風險標籤,甚至動用國防生產法強制執行。

隨後,特朗普在社交平臺上痛批 Anthropic 是極左瘋子,下令聯邦機構在六個月內清退其產品。緊接著 Hegseth 宣佈將 Anthropic 定性為供應鏈風險,嚴禁任何美軍承包商或供應商與其開展商業往來。Anthropic 則表示會向法院提起訴訟。期間,OpenAI 有 60 多名員工、Google 有 300 多名員工簽署聯名信,公開聲援 Anthropic。

純雲端部署與不能強迫執行的安全棧

就在大家以為軍方要逼著所有實驗室徹底交出控制權時,OpenAI 簽了字,並且拿出了自己的方案。

Altman 在社交平臺和隨後的全員會上透露,五角大樓其實接受了那幾條關鍵紅線,並把它們落實在了法律和合同文本中。協議明確禁止將技術用於對美國人的國內監控,也不能通過購買商業個人資料來繞過限制,甚至直接把 NSA 等情報機構排除在外,若要使用必須另立合同。

技術實現上,OpenAI 堅持了純雲端部署,堅決不在邊緣端裝置上執行,以此阻斷模型直接控制無人機或致命武器的可能性。OpenAI 會保留完整的安全棧控制權,派遣通過安全審查的工程師進駐五角大樓進行監督,並持續執行稽核分類器。Altman 對員工表示,如果模型拒絕執行某項任務,政府無權強迫 OpenAI 逼迫模型去執行。

Altman 表示希望通過這套方案促成局勢降溫,讓軍方停止法律和行政層面的懲罰動作,給其他實驗室提供一條可參照的合作路徑。

為什麼重要

我們認為,OpenAI 這次展現出了極其老練的政商手腕,但這場博弈留下的隱患遠沒有化解。

從表面上看,OpenAI 的做法非常聰明。它沒有像 Anthropic 那樣選擇公開對抗,而是把原則問題轉化成了系統架構問題:既然軍方要求合法使用,那就用雲端訪問、內建安全棧和拒絕權築起一道技術防線。如果這套條款真能推廣到全行業,既保住了前沿實驗室的安全底線,又讓開發者不用在良知和政府訂單之間被迫站隊。

但看起來,這種平衡依然脆弱。在法律層面,合同中的措辭是按照現有法律和部門政策界定人類控制權,而政策和法律的解釋權往往掌握在軍方自己手裡。所謂的安全棧到底是由 OpenAI 的分類器說了算,還是最終會被緊急狀態下的行政命令突破,目前誰也無法打包票。特別是就在訊息傳出前後,美以對伊朗的軍事行動已經展開,實戰環境下對自動化決策的渴望只會越來越強。

對於整個 AI 行業而言,這次事件立下了一個危險的先例。Anthropic 因為堅守安全防線被扣上供應鏈風險的帽子,甚至面臨被整個國防承包商生態封殺的風險,這說明政府已經開始動用行政鐵拳來重塑 AI 公司的原則。OpenAI 哪怕拿到了所謂的護欄,本質上也是在軍方劃定的遊戲規則內達成的妥協。軍工訂單這塊巨大的利益誘惑面前,前沿實驗室的技術中立神話正在徹底破滅。

來源 (4)

  1. [1]
    wsj.com(在新分頁開啟)原文wsj.com
  2. [2]
    openai.com(在新分頁開啟)報導openai.com
  3. [3]
    techcrunch.com(在新分頁開啟)報導techcrunch.com
  4. [4]
    axios.com(在新分頁開啟)報導axios.com

每日 AI 內容精選