加州推进严苛 AI 安全法案：强制自测「灾难风险」引硅谷巨头反弹

一边是特朗普和共和党打算撕掉联邦层面的 AI 紧箍咒，另一边是加利福尼亚州打算把规矩立得比谁都严。

在密尔沃基开会的共和党代表刚表态要废除拜登针对人工智能的联邦限制，特朗普的盟友甚至在谋划军用 AI 的「曼哈顿计划」。但加州控制议会的民主党人走了一条相反的路：他们正在力推一项法案，强制要求资金最雄厚的大公司在向公众发布大模型之前，先完成「灾难性风险」测试。

这项法案由旧金山民主党参议员 Scott Wiener 提出。法案一旦通过，只要训练时使用的算力达到特定门槛，企业就必须自证自家模型不会被用来制造生化武器、攻击关键基础设施或导致电网瘫痪。

硅谷巨头这次真急了

法案在加州参议院委员会通过后，科技行业的态度急转直下。

以往科技巨头往往躲在行业协会背后发声，但这次他们直接实名上书。Google 的 AI 与新兴技术政策主管 Alice Friend 致信委员会主席，直言法案里的要求在技术上根本行不通，甚至会惩罚那些已经尽到责任的开发者。

Meta 和微软也先后寄出了信件。行业协会 TechNet 的高管 Dylan Hoffman 说，巨头们不再通过协会传话，而是亲自签署信件公开反对，这说明他们把这项法案看作真正的威胁。

业界最担心的是官僚负担和责任认定。反对者甚至宣称，一旦技术被人拿去做坏事，开发者可能面临牢狱之灾。Wiener 本人对此予以强烈否认，称法律只想防止极端灾难，并为公众建立安全信任。

除了强制大厂做安全测试，这项法案还打算成立一个全新的监管机构「前沿模型部门」，负责审查安全报告，并有权动态调整受监管的模型范围。为了安抚中小团队，法案提出由加州政府出资搭建一个公共云计算系统，让初创公司和科研人员不必完全依赖巨头的昂贵算力。

布鲁金斯学会技术创新中心主任 Nicol Turner Lee 评价说，之前巨头向白宫做出的安全承诺多半是自愿性质的，Wiener 的提案直接把自愿变成了强制，而且要求大厂承担实质性责任，行业自然很难咽下这口气。

为什么重要

对开发者和初创团队来说，加州立法是一把双刃剑。表面上看，法案设立了公共算力池，试图帮小团队摆脱对云巨头的依赖，算力门槛也暂时落不到小模型头上。但科技界的不安并非空穴来风：一旦开发链条上游的开源大模型为了规避连带法律责任而收紧权重发布，下游调用接口或微调模型的创业者，能拿到的开源资源可能会大幅缩水。如果你正在基于前沿基础模型创业，现在就得紧盯加州监管尺度的最终落点。

对整个行业而言，萨克拉门托正在成为事实上的全美科技规则制定地。全美今年有超过 450 项 AI 相关提案，光加州就积压了 40 多项。回看 2018 年加州通过的全美最严隐私法，以及加州车管所对自动驾驶的管辖，联邦立法越是难产或面临反转，加州法案就越容易变成全美通行的事实标准。如果特朗普在 11 月胜选并兑现废除联邦行政令的承诺，全美 AI 监管的唯一主战场就彻底落在了加州。

我们认为，Wiener 试图用前置审查来防范极端生化武器和网络攻击，初衷很合理，但设立专门部门动态决定「谁违规」的做法，给技术落地带来了巨大的不确定性。技术安全测试的行业公认标准本就还在摸索中，在规则还不成熟时就强推行政责任，看起来确实容易逼得部分本土创新力量出走外州。如何分清大模型创造者的法律责任与下游使用者的恶意行为，加州这套打法显然还没给出一个让技术界信服的平衡点。