跳到正文
IFAI

產業動態

GAO 審查報告:美國政府狂奔進 AI,卻缺少統一安全規範

首次發布 傳播指數 39

美國政府問責署(GAO)釋出報告稱,聯邦各部門雖已在 200 多項場景中引入 AI,但在採購與監管政策上落後數年。由於管理和預算辦公室遲遲未出臺統一指引,各機構各自為政,在敏感場景下可能帶來安全與隱私風險。

GAO 審查報告:美國政府狂奔進 AI,卻缺少統一安全規範
圖:cnn.com

一邊緊盯科技巨頭的一舉一動,天天喊著要給演算法套上籠子,另一邊自家後院卻早就把各種 AI 工具用得風生水起,甚至連規則都還沒立齊。

美國政府問責署(GAO)剛剛釋出了一份長達 96 頁的重磅審查報告。這份報告調查了包括司法部、國土安全部、社會保障署在內的 23 個非軍事聯邦機構,結果發現:美國政府內部對 AI 的依賴正在狂飆,但底層的採購和管理規範卻足足落後了數年。

一邊數海鳥,一邊藏起數百個神秘演算法

報告統計顯示,美國聯邦機構目前已經落地的 AI 用例有 228 項,其中將近一半都是在過去一年裡倉促上線的。如果算上正在籌劃的專案,總數達到了 1241 項。

表面上看,近七成的應用場景都挺人畜無害,主要集中在科研探索和內部行政管理。比如美國國家航空航天局(NASA)用 AI 監測全球火山活動,商務部拿演算法追蹤森林火災,或者用無人機照片自動清點海鳥、海豹和海象的數量。

但這套賬本里還有大量不能說的秘密。在全部 1241 項現有和計劃的 AI 用例中,聯邦機構只公開了大約 70%,有超過 350 項應用因為所謂「高度敏感」被直接打了掩護。

有些部門嘴閉得極嚴。美國國務院上報了 71 項 AI 應用,但對公眾開放透明的只有 10 項,剩下的 61 項全藏在水面下。國土安全部則坦承,他們正利用機器學習分析雷達和攝像頭畫面,自動捕捉「值得關注的邊境動態」。

用量少不代表風險低。司法部和國土安全部合計雖然只報了 25 項應用,遠比不上 NASA 的 390 項或者商務部的 285 項,但往往每一項都踩在刀刃上。GAO 在 9 月的一份調查中就披露過,從 2019 到 2022 年間,六個聯邦執法機構完成了數千次人臉識別檢索,其中 95% 的操作人員甚至沒有經過正規的專業培訓。

規則拖延兩年,連缺多少人都不清楚

最諷刺的是技術狂奔背後的監管真空。早在 2020 年,美國國會就立法要求白宮管理和預算辦公室(OMB)必須在 2021 年 9 月前出臺針對 AI 採購和使用的全聯邦指導方針。

結果這份關鍵指南硬生生拖了兩年,直到上個月為了應付拜登簽署的 AI 行政命令,才匆匆發出一份草案。GAO 嚴厲指出,頂層規範的缺位導致各部門各自為政,不僅管理做法脫節,甚至可能削弱國家安全並損害公眾權益。

爛攤子還不止這一處。人事管理局(OPM)原本應該在 9 月前完成一份預測報告,算清楚聯邦政府未來五年到底需要招募多少 AI 人才,但至今交了白卷。從財政部到教育部的 10 個內閣級機構,甚至連一套定期更新 AI 清單的長效機制都沒有建起來。

為什麼重要

這份報告扒掉了美國聯邦政府在 AI 治理上的底褲。對外,白宮催促著 OpenAI、Google 們簽署安全自律承諾,要求各家交出最強模型的安全測試結果;對內,自家執法部門拿著未經規範驗證的商用人臉識別和位置資料跑得飛起,連最起碼的操作培訓和採購規範都拿不出來。這種典型的雙重標準,不僅讓政策的公信力大打折扣,也讓普通納稅人暴露在演算法偏見和誤抓誤捕的直接風險之下。

對企業和開發者來說,這也是一個明確的警訊。聯邦政府採購一直是大模型和垂直 AI 軟體極度渴望的超級金主,但在統一合規框架落地前,面向政府的 AI 採購很可能會面臨更嚴厲的國會質詢和輿論反彈。對於那些向執法和邊境機構兜售演算法的公司而言,光靠「內部敏感」當遮羞布的日子不會太長,資料溯源、偏見審查和隱私合規的緊箍咒,遲早會連本帶利地補回來。

來源 (1)

  1. [1]
    cnn.com(在新分頁開啟)原文cnn.com

每日 AI 內容精選