OpenAI 阐述 AGI 规划：越接近人类智能，部署将越发谨慎

造出比人类更聪明的机器，然后呢？

很多人还在把 ChatGPT 当成好玩的写稿玩具，但造出它的 OpenAI 已经在思考更远的事了：如果通用人工智能（AGI）真的做出来了，世界会变成什么样？人类该怎么管住它？

OpenAI 发布了一篇名为《Planning for AGI and beyond》的长文，正式阐述了他们对通用人工智能及未来超级智能的规划与治理路线。

渐进式部署，还是拔掉网线？

OpenAI 提出的核心逻辑很明确：与其在实验室里憋出一个全知全能的超级大杀器再一下子扔给世界，不如现在就不断把「能力弱一点的版本」推向社会。

他们认为，关在象牙塔里闭门造车是做不好安全规划的。只有把模型放到真实世界里跑，让公众、政策制定者和机构亲身体验到它的好与坏，社会才有时间去消化经济冲击、制定监管规则，并和 AI 共同进化。

换句话说，在风险相对较低的时候快速试错，总比未来在生死关头「只有一次做对的机会」要安全得多。

但随着系统越来越接近真正的 AGI，OpenAI 表示会变得空前谨慎。他们甚至设想了一套极其严格的刹车机制：在发布新系统前接受独立审计；在开始训练下一代超大模型之前接受外部审查；限制训练模型所用的算力增长速度；甚至在关键时刻，与全球其他 AGI 研发机构达成协调，共同放慢脚步。

甚至，主要国家的政府应该对超过特定算力规模的训练任务拥有知情权。

不仅如此，OpenAI 还搬出了自己的特殊架构来背书：非营利组织拥有最高控制权，投资者的回报有上限封顶。如果未来出于安全考虑，董事会甚至有权取消对股东的股权承诺，避免为了追逐无限利润而把毁灭性技术推向市场。

批评者打了个比方：就像石油巨头谈减排

这份宣言虽然写得诚恳，但在外部研究圈并没有收获一边倒的掌声。

知名博主 Scott Alexander 在 Astral Codex Ten 上发表长文，打了一个犀利的比方：这就像埃克森美孚突然发了一份完美的环保声明，把气候学家的每一条建议都抄了进去，并信誓旦旦地承诺「未来等气候危机真正降临的那一天，我们一定会用最负责任的方式减排」——但眼下，他们依然在开足马力抽石油。

悲观派的核心不满在于「时间线的缩短」。像 Metaculus 等预测平台此前曾预测超级智能要到 2043 年才会出现，这意味着对齐研究人员有整整二十年的时间来搞清楚怎么控制它。但 OpenAI 通过大力出奇迹的突破把这一预期拉近到了 2031 年。

批评者认为，哪怕今天放出来的只是无害的对话机器人，这种不断炒热赛道、加速推进前沿能力的做法，实际上在剥夺人类解决对齐难题的宝贵时间窗口。

为什么重要

对于日常使用 AI 的开发者和普通用户来说，这篇文章透露出一个很实际的信号：OpenAI 绝不会把模型做成完全放任自流的工具。他们明确提到，未来产品的「默认设置」可能会相当保守和受限，虽然他们承诺会留出空间让用户自己调整偏好，但大范围的安全围栏是焊死的。

对整个行业而言，这是第一家头部 AI 实验室公开提议「给超大模型训练套上紧箍咒」。诸如限制算力增速、引入独立审计、政府知情权等提议，看起来是在主动邀请监管入场。这不仅会重塑后续前沿大模型的研发门槛，也会直接把竞争对手逼到必须同样回答「你们怎么对付 AGI 风险」的监管聚光灯下。

我们认为，OpenAI 这篇文章聪明的地方在于，它试图把「商业化激进部署」重新包装成「为了安全不得不做的渐进测试」，逻辑上确实能自圆其说。但隐患也恰恰在这里：当一家公司既是这场无限竞赛的领跑者，又是自我刹车的裁判员时，所谓的「在关键节点放慢速度」极容易沦为一句空话。只要商业竞争还在继续，谁又能真正鼓起勇气先踩下刹车？