加州再试监管AI巨头：李飞飞等专家支招，力推第三方独立审查

去年 9 月，加州州长 Gavin Newsom 否决了引发全美关注的 SB 1047 法案。当时那项法案规定，训练成本达到 1 亿美元的大模型必须做特定安全测试，科技巨头一片叫好，吹哨人和安全研究者则大失所望。

Newsom 当时觉得那套方案一刀切、太严苛，于是转身组建了一个顶级学者团队，让他们拿出一套替代方案。周二，这份长达 52 页的《加州前沿政策报告》正式公布。

报告牵头人包括斯坦福以人为本人工智能研究院联合主任李飞飞、卡耐基国际和平研究院院长 Mariano-Florentino Cuéllar，以及加州大学伯克利分校计算、数据科学与社会学院院长 Jennifer Tour Chayes。他们的核心结论很直白：单靠开发者自己，根本没法完全搞清 AI 模型的风险和危害。

别只数算力，该给独立评测开绿灯了

报告指出，自从去年的法案被否决以来，AI 的思维链推理能力提升极快。模型在化学、生物、放射性及核武器（CBRN）等高危领域的风险证据也在持续增加，甚至巨头们自己披露的测试里，模型在这些方面的能力也出现了令人担忧的激增。

针对监管标准的划分，专家组推翻了单纯以算力划线的做法。他们认为，AI 训练需求一直在变，纯算力指标根本看不到模型在真实场景里的落地影响，算力最多只能作为初步筛选的工具，关键在于前期的风险评估和下游影响追踪。

报告提出的核心解法是强制第三方评估。现在的行业现状是各自为政，企业要么自己测，要么花钱雇外包团队测试。但专家组认为，开发者自身存在严重的视角盲区，而成千上万的独立研究者不仅数量上远超企业内部团队，背景也更多元。

为了让第三方能真正干活，报告明确呼吁设立安全港条款，防止科技公司利用苛刻的服务条款起诉或封禁那些挖出漏洞的研究人员。同时，报告还要求加强吹哨人保护，并为因 AI 遭受实际伤害的人群提供报告渠道。

谁在给大门上锁？

然而，真要落地第三方独立评测，最大的阻碍是企业不愿意给权限。如果研究人员进不去核心层，评测就只能浮于表面。

就连受聘合作的评测机构日子也不好过。与 OpenAI 合作进行安全测试的评估机构 Metr 之前发文透露，他们在测试 OpenAI 的 o3 模型时，拿到的测试时间远少于以往模型，OpenAI 也没有提供足够的数据和模型内部推理过程访问权限，直接导致他们无法做出可靠的能力评估。尽管 OpenAI 随后表示正在探索共享更多数据的方式，但这足以说明企业对放开核心权限有多警惕。

本月早些时候，Anthropic 首席执行官 Dario Amodei 曾公开发文，呼吁联邦层面制定透明度标准，要求头部公司在官网公开如何防范国家安全及灾难性风险。但加州报告的作者们直言，仅靠企业自律公开还远远不够。

为什么重要

加州这份报告最大的意义，在于它试图把 AI 安全测试从企业的公关自留地里抢出来，变成一项受到法律保护的公共监督权利。

对安全研究人员和独立白帽黑客来说，安全港制度如果能落地，意味着他们不必再顶着被起诉、被封号的法律风险去给巨头挑刺。但对普通开发者和小型创业团队而言，只要最终政策不把算力门槛演变成复杂的合规包袱，就不会直接扼杀早期尝试。

我们认为，专家组放弃死磕算力指标非常聪明。大模型架构和推理效率日新月异，按算力划线几个月就会过时；转而盯住下游落地风险和数据透明度，才切中了技术演进的要害。但隐患也很刺眼：报告要求企业给予外部评估者深度的访问权限，这直接踩到了科技巨头的核心商业秘密与知识产权红线。OpenAI 连 Metr 这样的合作伙伴都防着一手，要让巨头对分散的外部研究者完全敞开大门，落地阻力可想而知。

更深层的博弈来自政治层面。当前美国国会共和党人与部分科技巨头正在推动一项为期 10 年的联邦禁令，试图全面禁止各州自行监管 AI。加州报告的第一作者 Scott Singer 认为，加州可以借此引领各州建立常识性政策。看起来，这不仅是一次监管方案的技术重构，更是加州地方立法权与华盛顿联邦政策之间、企业自主权与公共监督之间的一场正面较量。