跳到正文
IFAI

產業動態

Amazon CEO 提安全隱患:美政府限制外籍人員訪問 Anthropic 新模型

首次發布 傳播指數 60

本週,Amazon CEO Andy Jassy 等科技高管向特朗普政府高階官員反映 Anthropic 最新模型的安全風險。這些對話直接促成美國出臺新出口管制,限制外籍人員訪問名為 Mythos 和 Fable 的模型。這也標誌著科技巨頭正通過遊說直接左右聯邦 AI 安全政策。

Amazon CEO 提安全隱患:美政府限制外籍人員訪問 Anthropic 新模型
圖:fortune.com

商場上最狠的一刀,往往不是來自明面上的對手,而是來自自家的大股東。

Anthropic 剛剛在 6 月 9 日釋出了新一代大模型 Claude Fable 5 和 Mythos 5,號稱效能超越以往任何公開發布的版本。結果上線不到三天,白宮一紙出口管制命令直接砸了下來,要求切斷所有外國公民的訪問許可權。

Anthropic 索性按下了核按鈕,直接向全球所有使用者拔掉了這兩個模型的網線。隨後多家媒體爆出內幕:在白宮背後直接推了一把的,正是 Anthropic 的最大金主之一、亞馬遜執行長 Andy Jassy。

盟友的越獄舉報與 24 小時通牒

據《華爾街日報》和路透社等多家媒體報道,Andy Jassy 本週親自找了美國財政部長 Scott Bessent 等政府高層,遞交了一份安全報告。亞馬遜的研究人員發現,他們能通過特定的越獄提示詞,讓 Claude Fable 5 輸出可直接用於網路攻擊的資訊。

這番溝通迅速引爆了白宮的神經。特朗普政府的前 AI 負責人、現任總統科技顧問委員會聯合主席 David Sacks 隨後在公開表態中還原了當時的火藥味。

David Sacks 透露,一個極具公信力的核心夥伴拿著越獄漏洞找上了政府,白宮隨即給 Anthropic 執行長 Dario Amodei 下了通牒:要麼立刻修復這個越獄問題,要麼主動撤回模型。但 Dario Amodei 當場拒絕了。

緊接著在 6 月 12 日,政府以國家安全為由祭出緊急出口管制,不僅禁止海外使用者使用,甚至要求禁止美國境內的外國公民以及 Anthropic 自己的外籍員工接觸這兩款模型。

拔掉全球網線的被動反擊

面對這種幾乎無法在技術上精準執行的禁令,Anthropic 選擇了最決絕的應對方式:把 Fable 5 和 Mythos 5 全部下線。

Anthropic 在宣告中毫不客氣地表達了抗議。他們認為,僅僅因為發現了一個狹窄的潛在越獄漏洞,就要求召回一款面向數億人的商用模型,這種做法完全站不住腳。更何況,類似的生成能力在其他公開的大模型裡早就存在。

尷尬的是,亞馬遜自己的雲服務 AWS 同樣因為這次停運受到了直接波及。面對外界質疑,亞馬遜發言人只是回應稱,政府就安全風險向大企業尋求建議很常見,公司不會透露具體討論細節。

這場風波其實只是 Anthropic 與白宮一系列衝突的最新一幕。此前這家 AI 獨角獸就因為拒絕為軍方取消技術使用紅線,一度遭到五角大樓的封殺,直到近期加州聯邦法院才裁定軍方的封殺令違憲。

為什麼重要

我們認為,這件事最耐人尋味的地方,在於巨頭之間博弈規則的徹底改變。過去科技大廠競爭拼的是算力和產品迭代,現在看起來,直接把未公開的安全缺陷捅給白宮高階官員,成了遏制對手甚至遏制被投夥伴最立竿見影的武器。

對於正在使用 Anthropic 模型的開發者和企業來說,這是一個非常危險的訊號。今天雲廠商可以因為模型存在被越獄的可能,就推動政府施加出口管制,明天任何前沿模型的商業連續性都可能在 24 小時內歸零。把核心業務押注在單一閉源前沿模型上的風險,被這次事件無限放大了。

從監管層面來看,這種通過非公開對話觸發的閃電禁令,開了一個很糟糕的先例。如果白宮可以不需要公開聽證和透明技術評估,僅憑個別大廠高管的閉門陳詞就緊急封殺商用模型,未來的 AI 安全紅線將徹底淪為政治博弈和商業遊說的工具。

來源 (3)

  1. [1]
    x.com(在新分頁開啟)原文x.com
  2. [2]
    politico.com(在新分頁開啟)報導politico.com
  3. [3]
    techcrunch.com(在新分頁開啟)報導techcrunch.com

每日 AI 內容精選