跳到正文
IFAI

行业动态

加州争议 AI 法案通过立法会:强制大模型设防,正等待州长签署

首次发布 传播指数 50

加州备受争议的 AI 安全法案 SB 1047 已在州立法机构通过,正等待州长签署生效。该法案要求超大模型开发者建立并记录防范重大危害的安全保障机制。此前马斯克出人意料公开表态支持,而 OpenAI 则明确表示反对。

加州争议 AI 法案通过立法会:强制大模型设防,正等待州长签署
图:techcrunch.com

加州这场关于人工智能的立法大戏,终于演到了最戏剧性的一幕。

备受争议的加州 SB 1047 法案刚刚在州立法机构闯关成功,目前已经摆在加州州长的办公桌上,只差签字生效。就在硅谷创业公司和投资人急得跳脚的时候,科技圈两个死对头却公开亮明了完全相反的态度。

马斯克反常站队,OpenAI 坚决说不

SB 1047 法案的核心要求非常直接:它要求那些研发超大 AI 模型的厂商,必须建立并记录防范重大危害的安全保障措施。说白了,就是要把模型失控的责任,死死绑在开发者的裤腰带上。

周一下午,马斯克突然在社交平台 X 上公开表态,认为加州应该通过这项法案。他承认这是一个艰难的决定,肯定会让一些人不高兴,但他强调自己呼吁监管 AI 潜在风险已经超过 20 年。

有意思的是,即便马斯克之前放话要带公司撤离加州,他自己的 xAI 依然属于这项法案的管辖范围。相比之下,他的老冤家 OpenAI 不久前直接宣布反对 SB 1047,并且转头去支持了其他的替代法案。

另一边,巨头们集体拥抱水印法案

有意思的是,巨头们并不是反对所有监管。几乎在同一时间,OpenAI、微软和 Adobe 却联名支持了加州的另一项 AI 法案:AB 3211。

AB 3211 抓的是下游内容。它要求在 AI 生成的图片、视频和音频的元数据里嵌入防篡改水印,而且还要求 Instagram、X 这样的大型平台必须用普通人看得懂的方式打上标注。

这三家公司本身就是推进 C2PA 水印标准的联盟成员。其实今年 4 月,代表它们的软件行业协会还曾写信痛骂这项法案不可行、给企业带来过重负担。但在加州议员修改了部分条款后,巨头们立刻转变了态度。

为什么重要

对比这两项法案的遭遇,巨头们的心思就非常清楚了。

巨头们支持 AB 3211,是因为技术本就是现成的,给内容加水印既顺应了打击深伪的政治正确,又不会伤及自身核心技术的研发节奏。但到了 SB 1047,直接要给大模型加安全责任锁,这就动了前沿大模型公司的命根子。

马斯克的表态看起来像是坚持安全底线,但我们认为这里面也不乏商业算计。对于拥有推特数据且正在拼命追赶的 xAI 来说,统一的高合规门槛不仅能凸显自己的责任感,更能直接给跑在最前面的 OpenAI 制造法律阻力。

对整个行业来说,加州向来是美国科技立法的风向标。一旦加州州长签署 SB 1047,全美所有前沿 AI 实验室都必须强制落地安全演练和文档归档。这很可能会倒逼各家调整开源策略和大模型发布节奏,初创公司在触碰大模型研发时也会面临前所未有的合规成本。

来源 (2)

  1. [1]
    reuters.com(在新标签页打开)原文reuters.com
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

话题追踪加州 AI 监管争议

这个话题的历次新闻,最新的在上面。

  1. 加州州长否决SB 1047法案:全美最严AI安全监管踩下刹车
  2. 好莱坞 125 位明星联名:施压加州州长签署 SB 1047 安全法案
  3. 加州立法禁止用 AI 替身偷换演员:不管在世还是去世都不行
  4. 加州落地 18 项 AI 监管新法:严打 Deepfake,死后「数字分身」需授权
  5. 加州争议 AI 法案通过立法会:强制大模型设防,正等待州长签署本条

每日 AI 内容精选