跳到正文
IFAI

產業動態

美國聯邦機構新規:必須設立首席 AI 官,每年盤點 AI 風險

首次發布 傳播指數 55

美國管理和預算局釋出新指南,強制所有聯邦機構設立首席 AI 官並組建治理委員會。各機構每年必須提交所用 AI 清單及風險應對方案,若無法落實防歧視等安全保護措施,必須立即停用相關係統。

美國聯邦機構新規:必須設立首席 AI 官,每年盤點 AI 風險
圖:theverge.com

企業高管裡多了一個首席 AI 官還不算完,現在連掌管美國行政機器的聯邦各部委,也必須人手配一個了。

副總統哈里斯宣佈了美國管理和預算辦公室(OMB)的最新指引。全美所有聯邦機構都必須設立首席 AI 官(CAIO),還要在今年夏天之前組建專門的 AI 治理委員會。沒有配備的部門,必須在 60 天內把人選定下來。

誰在用、怎麼用,全都得記在賬上

這個首席 AI 官可不是掛個虛名。白宮建議各部門可以從資訊長、首席資料官或技術長裡提拔,但前提是必須擁有真正的 AI 專業能力和實權。

新規要求各機構每年都要向 OMB 提交一份 AI 清單,列出自己到底在用哪些系統、潛在風險是什麼、打算怎麼防範。如果有哪個系統因為涉密敏感不想公開,部門負責人還得給公眾一個公開的解釋理由。

有些部門動手更早。比如司法部早在 2 月就任命了 Jonathan Mayer 擔任首位首席 AI 官,帶著網路安全專家研究怎麼在執法中用 AI。OMB 主任 Shalanda Young 還透露,聯邦政府打算在夏天前招募 100 名 AI 專業人才。

更硬性的是整改底線。所有聯邦機構使用的 AI 工具,必須在 12 月 1 日前達到最低安全標準,排除演算法歧視。如果達不到要求又拿不出豁免理由,就必須立刻停用,最多隻能申請延期一年。

白宮列了幾個很具體的場景。比如在機場過安檢時,旅客依然可以選擇拒絕 TSA 的人臉識別,而且不能因此被耽誤時間或重新排隊;聯邦醫療系統用 AI 輔助診斷時,必須有真人醫生把關;用演算法排查福利欺詐時,必須有真人複核,被誤傷的公民得有申訴渠道。另外,政府自研的 AI 模型、程式碼和資料,只要不危及運營安全,原則上都要對公眾開源。

為什麼重要

我們認為,白宮這一步做得很務實,甚至比很多盲目跟風的大公司都要清醒。

對普通人來說,這套規定的核心價值是劃出了安全底線。政府用 AI 查稅、抓詐騙或在機場掃臉時,最怕的是演算法一旦出錯,老百姓申訴無門。現在白宮明確規定必須有人類監督、必須允許旅客拒絕人臉識別且不罰站,直接保障了公眾的基本權利。

對企業和開發者而言,這也是一個風向標。聯邦政府要採購什麼樣的人工智慧,市場就會跟著做什麼樣的合規工具。尤其是公開透明和防演算法偏見的要求,大機率會倒逼一眾政府承包商主動提升模型的可解釋性和安全性。

不過隱患也很明顯。美國國會至今沒有通過任何有約束力的 AI 法律,這次的約束力僅僅停留在行政分支的規章層面。而且要在 60 天內給每個部委找齊既懂前沿模型又懂官僚體制的專家,夏天還要招 100 個 AI 人才,在搶人大戰如此激烈的當下,政府開出的薪水能不能留住頂尖人才,看起來依然要打一個大問號。

來源 (2)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com
  2. [2]

話題追蹤美國聯邦政府 AI 治理

這個話題的歷次新聞,最新的在上面。

  1. 美國聯邦機構新規:必須設立首席 AI 官,每年盤點 AI 風險本則
  2. 美國司法部任命首位首席 AI 官,普林斯頓教授履新

每日 AI 內容精選