美國擬推新法案：強制 AI 公司公開版權訓練資料與紅隊測試

很長一段時間裡，訓練大模型用到的資料集一直被各家公司當成核心機密，或者說心照不宣的黑盒。

現在，美國兩位國會議員打算把這個黑盒徹底撬開。

加州民主黨眾議員 Anna Eshoo 和維吉尼亞州民主黨眾議員 Don Beyer 提交了一項名為《人工智慧基礎模型透明度法案》（AI Foundation Model Transparency Act）的提案。這項法案的核心訴求很直接：基礎模型開發者必須公開訓練資料來源，讓版權所有者清清楚楚知道自己的作品到底有沒有被抓去喂 AI。

法案要求聯邦貿易委員會（FTC）與美國國家標準與技術研究院（NIST）聯手，共同制定一套訓練資料透明度報告規則。

除了版權，連算力和紅隊測試也要交底

這項法案要管的，遠不止列出一張資料清單那麼簡單。

按照提案要求，開發基礎模型的公司不僅要報告訓練資料來源，還要交代資料在推理過程中是如何保留的，並詳細說明模型的侷限性與風險。

AI 公司還必須披露訓練和執行模型到底消耗了多少算力，以及模型是否符合 NIST 計劃中的人工智慧風險管理框架和其他潛在聯邦標準。

另外，針對醫療衛生、生物合成、網路安全、選舉、警務、貸款審批、教育、僱傭、公共服務以及兒童等弱勢群體的場景，開發者必須報告專門的「紅隊測試」記錄，以證明自己採取了措施防止模型輸出錯誤或有害資訊。

提案特別點名了當前幾起備受矚目的版權官司。其中包括藝術家對 Stability AI、Midjourney 和 DeviantArt 發起的訴訟，以及圖片巨頭 Getty Images 起訴 Stability AI 的案件。法案寫得很坦白：隨著公眾對 AI 的使用增加，關於版權侵權和不準確資訊的訴訟與擔憂正在激增。

為什麼重要

對創作者和版權方來說，這是他們爭取權益時最急需的一塊拼圖。

以前原作者發現 AI 生成風格和自己一模一樣，想要維權卻難如登天，因為根本拿不到對方抓取自己作品的證據。一旦透明度要求變成法定義務，創作者核查侵權的門檻會大幅降低，無論是談判授權費用還是打官司，主動權都會大很多。

對 AI 公司而言，這種要求無異於給資料採集套上一道緊箍咒。如果法案落地，靠在公網上無節制爬取內容後閉口不談的做派將難以為繼，甚至可能迫使廠商重構資料管道，花真金白銀去買商業授權。

我們認為，這項法案的聰明之處在於把版權追責和模型安全綁在了一起。它沒有一上來就武斷定性哪些抓取行為違法，而是把抓手放在「透明披露」上，同時要求交出算力和紅隊測試細節，直接瞄準了公眾對模型黑盒與偏見輸出的焦慮。

不過法案的前景還充滿變數。拜登政府此前雖然釋出過 AI 行政令，但行政令終究不是正式法律；而這項法案接下來還要移交委員會討論，趕在忙碌的競選季到來之前能否順利推進，目前看來還是個未知數。