跳到正文
IFAI

產業動態

Altman 回應五角大樓合作:OpenAI 無權干涉軍方如何使用其 AI

首次發布 傳播指數 45

OpenAI CEO Sam Altman 在全員會上表示,公司對五角大樓如何使用其 AI 軟體沒有決定權。軍方會就技術專長諮詢 OpenAI,但絕不許公司插手評判具體軍事行動的好壞。Altman 指出,試圖影響軍事決策正是競手 Anthropic 與軍方鬧僵的關鍵原因。

Altman 回應五角大樓合作:OpenAI 無權干涉軍方如何使用其 AI
圖:techcrunch.com

搶下五角大樓的大單剛過去不到一週,OpenAI 就體會到了什麼叫引火燒身。

OpenAI 舉辦了一場內部全員會。CEO Sam Altman 在會上向員工交了底:對於五角大樓最終如何使用自家的 AI 軟體,OpenAI 沒有任何發言權。

Altman 解釋說,國防部確實會就技術專長向 OpenAI 諮詢,但絕不可能允許一家商業公司對具體的軍事行動指手畫腳、評判好壞。在他看來,Anthropic 之所以和軍方徹底鬧翻,很可能就是因為對方試圖去影響這些具體的行動決策。

24 小時搶單的慘痛代價

這次風波的起因,是競爭對手 Anthropic 在軍方合同上的觸礁。五角大樓要求 AI 用於「一切合法用途」,Anthropic 堅持要在國內大規模監視和完全自主武器上劃紅線。談判破裂後,美國防部直接將 Anthropic 定性為供應鏈風險並全面封殺。

結果就在 Anthropic 被封殺的 24 小時內,OpenAI 火速補位,簽下了使用同樣條款的軍方機密網路協議。這筆交易看似搶到了大客戶,卻立刻引爆了 OpenAI 近年來最嚴重的一場品牌危機。

舊金山總部外很快出現了抗議人群,退訂潮接踵而至,ChatGPT 的解除安裝量暴漲 295%,大量使用者甚至湧向了被封殺的 Anthropic。內部同樣動盪不安,此前已有 60 多名員工聯名支援 Anthropic 的立場,研究副總裁 Max Schwarzer 也在此時宣佈跳槽去 Anthropic。

Altman 隨後在社交平臺發文承認,這筆交易簽得太匆忙,看起來「投機且草率」,並稱這次風波「極其痛苦」。他甚至放話,如果軍方下達違憲指令,自己「寧可去坐牢」。

緊急打補丁的技術防線

為了平息眾怒,OpenAI 緊急修改了合同細節。研究科學家 Noam Brown 出面澄清,在漏洞解決之前,OpenAI 暫時不會向國家安全域性(NSA)或國防部其他情報機構部署模型。

Altman 也向員工強調,公司正在建立自己的「安全技術棧」,以此防止模型被濫用。按照他的說法,如果模型在技術層面拒絕執行某項任務,軍方不會強迫 OpenAI 篡改機制去執行。

但說白了,這種技術層面的拒絕,和真正介入軍事決策完全是兩碼事。軍方要的是技術工具,而不是一個擁有否決權的倫理審查委員會。

為什麼重要

對於普通使用者和開發者來說,這件事最直接的影響是信任崩塌。很多個人使用者退訂甚至解除安裝 ChatGPT,本質上是對科技公司在原則問題上反覆橫跳的失望。如果你平時依賴 OpenAI 的 API 構建商業產品,現在就必須評估這種品牌層面的地緣和倫理風險,甚至考慮多模型備選方案。

對整個 AI 行業而言,這次事件徹底劃清了一條殘酷的底線。軍方已經用實際行動證明,他們絕不會把作戰指揮權讓渡給任何矽谷公司的道德準則;想吃國防這碗飯,就必須接受「只管造槍、不管開槍」的遊戲規則。這會逼得其他想做政府生意的競爭對手重新權衡合規底線。

我們認為,OpenAI 這一步走得極其彆扭。它既想吃下軍方大單、展現所謂務實的合作姿態,又想立住負責任 AI 的公眾人設,結果兩頭不討好。在 24 小時內倉促接盤不僅顯得見利忘義,後續的縫縫補補更是難以挽回公眾信任。AI 公司一旦把技術交出去,僅靠程式碼裡的「拒絕回答」來當擋箭牌,在絕對的國家機器面前看起來未免太過單薄。

來源 (2)

  1. [1]
    bloomberg.com(在新分頁開啟)原文bloomberg.com
  2. [2]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選