美国拟推新法案：强制 AI 公司公开版权训练数据与红队测试

很长一段时间里，训练大模型用到的数据集一直被各家公司当成核心机密，或者说心照不宣的黑盒。

现在，美国两位国会议员打算把这个黑盒彻底撬开。

加州民主党众议员 Anna Eshoo 和弗吉尼亚州民主党众议员 Don Beyer 提交了一项名为《人工智能基础模型透明度法案》（AI Foundation Model Transparency Act）的提案。这项法案的核心诉求很直接：基础模型开发者必须公开训练数据来源，让版权所有者清清楚楚知道自己的作品到底有没有被抓去喂 AI。

法案要求联邦贸易委员会（FTC）与美国国家标准与技术研究院（NIST）联手，共同制定一套训练数据透明度报告规则。

除了版权，连算力和红队测试也要交底

这项法案要管的，远不止列出一张数据清单那么简单。

按照提案要求，开发基础模型的公司不仅要报告训练数据源，还要交代数据在推理过程中是如何保留的，并详细说明模型的局限性与风险。

AI 公司还必须披露训练和运行模型到底消耗了多少算力，以及模型是否符合 NIST 计划中的人工智能风险管理框架和其他潜在联邦标准。

另外，针对医疗卫生、生物合成、网络安全、选举、警务、贷款审批、教育、雇佣、公共服务以及儿童等弱势群体的场景，开发者必须报告专门的「红队测试」记录，以证明自己采取了措施防止模型输出错误或有害信息。

提案特别点名了当前几起备受瞩目的版权官司。其中包括艺术家对 Stability AI、Midjourney 和 DeviantArt 发起的诉讼，以及图片巨头 Getty Images 起诉 Stability AI 的案件。法案写得很坦白：随着公众对 AI 的使用增加，关于版权侵权和不准确信息的诉讼与担忧正在激增。

为什么重要

对创作者和版权方来说，这是他们争取权益时最急需的一块拼图。

以前原作者发现 AI 生成风格和自己一模一样，想要维权却难如登天，因为根本拿不到对方抓取自己作品的证据。一旦透明度要求变成法定义务，创作者核查侵权的门槛会大幅降低，无论是谈判授权费用还是打官司，主动权都会大很多。

对 AI 公司而言，这种要求无异于给数据采集套上一道紧箍咒。如果法案落地，靠在公网上无节制爬取内容后闭口不谈的做派将难以为继，甚至可能迫使厂商重构数据管道，花真金白银去买商业授权。

我们认为，这项法案的聪明之处在于把版权追责和模型安全绑在了一起。它没有一上来就武断定性哪些抓取行为违法，而是把抓手放在「透明披露」上，同时要求交出算力和红队测试细节，直接瞄准了公众对模型黑盒与偏见输出的焦虑。

不过法案的前景还充满变数。拜登政府此前虽然发布过 AI 行政令，但行政令终究不是正式法律；而这项法案接下来还要移交委员会讨论，赶在忙碌的竞选季到来之前能否顺利推进，目前看来还是个未知数。