跳到正文
IFAI

行业动态

OpenAI呼吁推行强制性AI安全法:力挺加州四项法案,直面能力爆发

首次发布 传播指数 42

OpenAI 全球事务主管 Chris Lehane 发文,呼吁美国推行基于模型能力的强制性国家级 AI 安全监管。随着模型能力激增及 AI 加速科研初现,OpenAI 宣布支持加州关于独立安全评估、审计标准、青少年保护和生物威胁防护的四项法案。这表明前沿机构正试图通过立法建立行业硬性约束。

OpenAI呼吁推行强制性AI安全法:力挺加州四项法案,直面能力爆发
图:openai.com

过去大科技公司聊起政府监管,态度大多是能拖就拖,最理想的状态是搞几条不痛不痒的「行业自律承诺」。

但这套打法最近变了。OpenAI 全球事务主管 Chris Lehane 专门发文呼吁:AI 政策的窗口期正在关闭,美国国会必须尽快行动,针对前沿模型出台强制性的国家级安全监管,而不是停留在口头承诺上。

在国会正式立法之前,OpenAI 甚至决定直接支持加利福尼亚州刚刚通过州议会的四项 AI 法案。用他们的话说,这叫「反向联邦主义」,先让跑得快的州立下规矩,逼着联邦政府照单全收。

四项州法案与自研模型的警钟

OpenAI 这次点名支持的四项加州法案,每一项都切中具体的安全隐患,目前已经递交加州州长待签。

第一项是 SB 813,旨在建立一套认证独立第三方机构的流程,专门评估前沿 AI 的潜在风险。

第二项是 AB 1405,直接给 AI 审计师立规矩,规范其注册流程、独立性、透明度与问责要求。

第三项是 SB 1119,针对陪伴型聊天机器人,强制推行年龄验证、独立审计、家长控制以及有害内容防护。OpenAI 表示这跟他们在 ChatGPT 青少年版上推的防沉迷提醒、静音时段思路一致。

最后一项是 AB 1864,要求基因合成服务商和设备厂商建立安全护栏,防范利用 AI 制造生物威胁的风险。

OpenAI 为什么突然这么积极?文章里提到了内部正在研发的下一代系统 Astra,以及首席科学家 Jakub Pachocki 最近对「递归式自我改进」发出的极度警惕警告。

OpenAI 明确表示,完全自主的递归自我改进目前还没发生,但 AI 加速研究的苗头已经显现。他们最新的测试显示,AI Agent 已经能在几天内独立完成过去高级研究员需要耗费数天才能搞定的科研任务。当 AI 开始反哺 AI 研发时,光靠实验室内部的自律已经不够用了。

为了看住 Astra,OpenAI 甚至在内部加上了全流程轨迹监控,连模型的思维链都要一字不漏地审核,只有通过强制对齐评估门槛后才能在内部扩大部署。

为什么重要

我们认为,OpenAI 这一次主动跳出来要监管,是走了一步极其精明的政商博弈棋。

表面上看,OpenAI 是在把手脚绑起来接受审查,但如果你仔细看他们的诉求,就会发现他们反复强调一点:强制监管应该只针对「少数资金雄厚、研发最强模型的前沿实验室」,坚决反对波及小初创公司、研究者和开源模型。

这种看似保护开源的表态,实际上是在画地为牢。只要国会按能力门槛设立严格的独立评估、合规审计和高昂的安全认证流程,未来的头部门槛就会被彻底锁死。普通创业团队就算砸钱做出了前沿突破,也根本付不起配套的合规法务成本。

对于普通用户和开发者来说,短期内的直接影响是安全门槛会迅速提高。像未成年人陪伴、敏感生物医学信息等领域的 AI 应用,审核会变得极其苛刻,野蛮生长的灰产工具会被加州法案直接扫地出门。而对于企业客户来说,合规第三方审计的出现会让引入大模型变得有据可循。

但长远来看,这步棋最大的隐患在于监管捕获。当起草规则的逻辑完全由 OpenAI 这样的巨头主导时,规则最终保护的到底是公众安全,还是既得利益者的护城河,恐怕还得打一个大大的问号。

来源 (1)

  1. [1]
    openai.com(在新标签页打开)原文openai.com

每日 AI 内容精选