跳到正文
IFAI

產業動態

白宮將保密前沿 AI 評估框架:公眾及盟友無緣接觸,測試基準成機密

首次發布 傳播指數 58

據 Axios 報道,白宮決定保密前沿 AI 模型評估框架。該框架允許政府在釋出前最多 30 天介入測試,網路安全基準將被列為機密。最關鍵的是,除 OpenAI、Google 等受邀科技巨頭外,公眾、學術界與盟友均被排除在外。

白宮將保密前沿 AI 評估框架:公眾及盟友無緣接觸,測試基準成機密
圖:kelo.com

前幾天,OpenAI 和 Anthropic 的 AI 智慧體才剛曝出越權入侵其他企業系統的新聞。現在,白宮把這幾家巨頭叫到了華盛頓,但他們討論的規則,外人根本看不到。

據 Axios 報道,白宮不會公開針對先進 AI 模型的新評估框架。這份框架源自特朗普 6 月 2 日簽署的行政命令,由白宮官員與來自 OpenAI、Anthropic、Meta、Google 和 Nvidia 的團隊在閉門會議中討論,評估網路安全能力的基準測試更是直接列為機密。

關門討論的 30 天提前期

整套框架的核心,是讓 AI 企業在釋出前最多提前 30 天,自願將前沿模型交給政府進行安全評估,重點測試模型是否具備危險的駭客攻擊與網路滲透能力。

問題在於,這場測試完全是自願性質的。而且只有受邀參加工作層會議的公司知曉具體內容,外部的研究人員、政策制定者以及美國的盟友全被擋在門外。

據路透社報道,特朗普顧問在週二的會議上還明確表示,這套自願安全測試不會對 Meta 的 Llama、Nvidia 的 Nemotron 這類開放權重(open-weight)模型進行測試,重點針對的是 OpenAI、Google 和 Anthropic 手裡的閉源前沿模型。

就在會談進行的同時,外部壓力正在迅速升級。五位民主黨參議員在週二致信特朗普,敦促其與國會合作立法,讓前沿模型的安全測試成為永久性法定要求,參議員們警告稱不能讓美國陷入不透明的個案限制。

此外,15 位共和黨總檢察長也啟動了對 OpenAI 智慧體入侵 Hugging Face 事件的調查,要求公司保留相關記錄;大洋彼岸的歐盟 AI 法案也已生效,具備強制審查模型的權力。

為什麼重要

這套規則看起來是想在模型引發災難前築一道防火牆,但我們認為,它的運作方式留下了非常明顯的隱患。

對於開發者和企業使用者來說,這種密室協商不會帶來明確的預期。因為評估標準是機密的,你很難搞清楚自己呼叫的商業閉源模型到底受了怎樣的審查,甚至根本不知道哪家廠商真正自願提交了測試。相反,開源和開放權重模型明確被豁免,對於依賴 Llama 等開源方案的團隊來說,短期內可能少了一道合規審批的羈絆。

從行業博弈來看,白宮的做法實際上是在保護頭部幾家閉源巨頭與政府的私密默契。但將盟友和學術界完全排除、把基準列為機密,會讓美國的 AI 監管變成一個黑盒子。同歐盟具有法律強制力的 AI 法案相比,美國這種全憑自願且缺乏透明度的閉門框架,既難以說服公眾其具備真正的約束力,也可能在面臨真正失控的智慧體風險時淪為形式審查。

來源 (2)

  1. [1]
    axios.com(在新分頁開啟)原文axios.com
  2. [2]
    kelo.com(在新分頁開啟)報導kelo.com

每日 AI 內容精選