跳到正文
IFAI

行业动态

美国 AI 监管怎么管:一文拆解华盛顿正在酝酿的规则方案

首次发布 传播指数 36

Vox 发文解读美国决策层的 AI 监管框架。华盛顿正从新规则、监管机构、资金和人才四方面切入,重点涵盖版权、强制审计、模型发照乃至算力监控。这意味着前沿大模型的野蛮生长期正快速走向受限合规时代。

美国 AI 监管怎么管:一文拆解华盛顿正在酝酿的规则方案
图:vox.com

ChatGPT 爆火之后,华盛顿的政客们终于坐不住了。

今年 5 月白宫拿出了一套 AI 政策框架,7 月又拉着几家头部公司签了自愿安全承诺,要求他们做内部和第三方安全测试、防止模型被黑客攻击或滥用。参议院多数党领袖 Chuck Schumer 在 6 月的演讲里放话,立法马上就来。两党议员甚至提出,底线是绝对不能让 AI 染指核武器发射决策。

不过,嘴上喊着「要管」和「拿出具体条文」完全是两码事。目前华盛顿在琢磨的方案,大致可以归为规则、机构、钱和人才四大块,而争吵最凶的显然是规则怎么定。

从版权官司到生物武器,监管清单有多长

目前的具体提案分成了两条截然不同的路线。

第一条线管的是近在眼前的现实问题,更偏向算法伦理与合规。比如版权,美国版权局已经明确,AI 生成的内容不算人类原创、不能享有版权;而大模型抓取海量数据训练,已经在面临各种版权诉讼。再比如隐私,3 月 ChatGPT 曾爆出过泄露聊天记录和支付信息的漏洞,意大利还一度短暂封禁过它。

参议院正在推《算法问责法案》,打算让联邦贸易委员会 FTC 出马,严查模型里的种族或性别歧视,FTC 已经表态会动用现有职权直接查处。

第二条线管的则是国家安全和极端风险。华盛顿开始盯防未来可能失控的模型,比如具备超强黑客攻击能力的 AI,或者帮外行制造致命病原体。参议员 Ted Budd 和 Ed Markey 正在推动立法,要求卫生与公众服务部专门评估 AI 带来的生物武器风险。

还有学者和从业者提议效仿美国食品药品监督管理局 FDA 管药品的套路,对大模型搞「准生证」牌照制,没拿到政府审批就不准公开发布。

有人想上重刑,有人怕大厂设局

规矩还没立起来,各方利益已经掐成了一团。

电子前沿基金会 EFF 和 R Street 研究所这类组织极度警惕政府插手。他们担心严苛的规则不仅会扼杀创新,更致命的是会导致「监管俘虏」:把门槛抬得极高,最后只有 OpenAI 这样资金雄厚的极少数大厂能合规,等于直接帮巨头筑起了护城河。

但另一边,像参议员 Josh Hawley 和 Richard Blumenthal 这类对科技巨头态度强硬的议员,想的是直接砸碎避风港原则。他们主张修改责任豁免条款,只要 AI 惹出祸端,普通受害者可以直接起诉,检察官也能直接提起公诉。

Google DeepMind 和 OpenAI 的一些专家甚至联名发表论文,呼吁引入红队测试和第三方审计,一旦违反规范就课以巨额行政罚款。

为什么重要

这套监管思路一旦落地,最先受伤的不是巨头,反而可能是开源社区和普通开发者。

如果真按 FDA 模式搞发牌制,动辄要求第三方审计、红队测试和合规报告,每一次模型迭代的成本都会飙升到几百万甚至上千万美元。我们认为,大厂完全付得起这笔过路费,甚至乐见其成,但对于独立开发者和开源团队来说,这几乎等于直接宣判死刑。

对普通用户而言,短期内最直接的改变可能是版权与数据归属的边界变清晰了,但代价是产品迭代速度可能会显著放慢。那些好玩的实验性功能,可能会因为法律责任的不确定性被大厂无限期压箱底。

看起来,华盛顿现在最大的难点在于既不懂技术细节,又急于表现「我在做事」。一刀切地按最高安全风险去管所有模型,既不现实,也会把整个软件行业的敏捷性彻底拖垮。

来源 (1)

  1. [1]
    vox.com(在新标签页打开)原文vox.com

话题追踪Sam Altman 推动 AI 监管

这个话题的历次新闻,最新的在上面。

  1. 美国 AI 监管怎么管:一文拆解华盛顿正在酝酿的规则方案本条
  2. OpenAI 发放 10 个 10 万美元资助:征集 AI 规则民主治理方案
  3. Sam Altman 国会听证会:主动呼吁监管,建议对尖端 AI 设许可门槛
  4. Sam Altman 首次国会作证:呼吁设立新机构与许可制监管 AI
  5. OpenAI 高管受访谈 GPT-4 风险:奥特曼坦言有点害怕,呼吁外界共同监管

每日 AI 内容精选