OpenAI 呼吁制定全球 AI 标准：管住「AI 自己搞研发」的失控风险

当 AI 开始替人类研究下一代更聪明的 AI 时，最大的麻烦可能不是它做不到，而是人类很快就会看不懂它到底是怎么做出来的。

OpenAI 发布了一篇名为《为下一阶段 AI 建立标准》的倡议，呼吁由美国牵头，联合全球各国共同制定前沿 AI 的技术标准。OpenAI 紧盯的核心焦点，是一个被称为递归自我改进的技术阶段。

所谓递归自我改进，简单说就是让 AI 承担越来越多的科研与工程工作，由它自己驱动下一代 AI 的迭代。OpenAI 直言，完全自主的自我改进目前还没有发生，但如果没有任何防护规范就盲目推进，人类很可能会彻底失去对 AI 研发流程的实际控制权。

先给 AI 的自我升级立规矩

OpenAI 在倡议中提出，这项标准并不打算变成强制性的发牌许可，也不是搞发版前的硬性行政审批，而是想参考民用航空和国际金融体系的做法，建立一套全球公认的通用度量衡。

他们建议依托现有的国家级 AI 安全机构网络来推进这件事。这个网络已经覆盖了美国、英国、日本、韩国、德国、法国、新加坡、印度、肯尼亚和澳大利亚等国家，可以通过美国的人工智能标准与创新中心等机构展开多方协作。

具体要管什么？OpenAI 拆出了几个非常具体的指标。首先是测量一家机构内部究竟有多少研发工作是由 AI 自主完成的，并评估其递归进展；其次是明确人工监督的红线，规定哪些高风险研究环节必须立刻触发人工介入审查。

此外，他们还主张建立统一的事故分级与报告标准。OpenAI 提到了此前披露的 Hugging Face 安全事件，认为这类事件就是在给未来更严重的失控风险敲警钟。除了西方盟友体系，OpenAI 还明确提到美中两国应在关键基础设施安全和 AI 威胁预警上建立对话渠道。

为什么重要

对普通开发者和中小企业来说，这份倡议最直接的影响是未来的合规门槛。OpenAI 嘴上虽然强调标准不能挤压开源模型和初创团队的生存空间，但只要对前沿能力和研发流程划定统一测量线，大模型竞争的技术门槛和合规成本必然会水涨船高。现在做普通 Agent 的开发者倒不用慌，但那些尝试用模型做全自动化代码演化、自我迭代的极客团队，很快会发现自己撞上安全红线。

对整个行业而言，这看起来是头部大厂在试图抢夺游戏规则的定义权。OpenAI 这两年的研究已经深度依赖 AI 自主写代码，它比任何人都清楚自己正冲向人类认知的边缘。在监管真正从外部砸下大棒之前，抢先呼吁政府出面立规矩，既能把自己做出的安全评估工具推成国际基准，又明确拒绝了发牌制这种会捆住手脚的审批模式，这步棋走得非常精明。

不过，我们认为这里的隐患也写在明处。递归自我改进的边界极其模糊，什么是辅助研发，什么是失去控制，业界根本没有客观共识。如果把标准制定的主导权过度收拢在少数几家头部闭源巨头和特定国家安全机构手里，全球开源社区能否真正拥有平等的发言权，依然要打一个大大的问号。