OpenAI 闡述 AGI 規劃：越接近人類智慧，部署將越發謹慎

造出比人類更聰明的機器，然後呢？

很多人還在把 ChatGPT 當成好玩的寫稿玩具，但造出它的 OpenAI 已經在思考更遠的事了：如果通用人工智慧（AGI）真的做出來了，世界會變成什麼樣？人類該怎麼管住它？

OpenAI 釋出了一篇名為《Planning for AGI and beyond》的長文，正式闡述了他們對通用人工智慧及未來超級智慧的規劃與治理路線。

漸進式部署，還是拔掉網線？

OpenAI 提出的核心邏輯很明確：與其在實驗室裡憋出一個全知全能的超級大殺器再一下子扔給世界，不如現在就不斷把「能力弱一點的版本」推向社會。

他們認為，關在象牙塔裡閉門造車是做不好安全規劃的。只有把模型放到真實世界裡跑，讓公眾、政策制定者和機構親身體驗到它的好與壞，社會才有時間去消化經濟衝擊、制定監管規則，並和 AI 共同進化。

換句話說，在風險相對較低的時候快速試錯，總比未來在生死關頭「只有一次做對的機會」要安全得多。

但隨著系統越來越接近真正的 AGI，OpenAI 表示會變得空前謹慎。他們甚至設想了一套極其嚴格的剎車機制：在釋出新系統前接受獨立審計；在開始訓練下一代超大模型之前接受外部審查；限制訓練模型所用的算力增長速度；甚至在關鍵時刻，與全球其他 AGI 研發機構達成協調，共同放慢腳步。

甚至，主要國家的政府應該對超過特定算力規模的訓練任務擁有知情權。

不僅如此，OpenAI 還搬出了自己的特殊架構來背書：非營利組織擁有最高控制權，投資者的回報有上限封頂。如果未來出於安全考慮，董事會甚至有權取消對股東的股權承諾，避免為了追逐無限利潤而把毀滅性技術推向市場。

批評者打了個比方：就像石油巨頭談減排

這份宣言雖然寫得誠懇，但在外部研究圈並沒有收穫一邊倒的掌聲。

知名博主 Scott Alexander 在 Astral Codex Ten 上發表長文，打了一個犀利的比方：這就像艾克森美孚突然發了一份完美的環保宣告，把氣候學家的每一條建議都抄了進去，並信誓旦旦地承諾「未來等氣候危機真正降臨的那一天，我們一定會用最負責任的方式減排」——但眼下，他們依然在開足馬力抽石油。

悲觀派的核心不滿在於「時間線的縮短」。像 Metaculus 等預測平臺此前曾預測超級智慧要到 2043 年才會出現，這意味著對齊研究人員有整整二十年的時間來搞清楚怎麼控制它。但 OpenAI 通過大力出奇跡的突破把這一預期拉近到了 2031 年。

批評者認為，哪怕今天放出來的只是無害的對話機器人，這種不斷炒熱賽道、加速推進前沿能力的做法，實際上在剝奪人類解決對齊難題的寶貴時間視窗。

為什麼重要

對於日常使用 AI 的開發者和普通使用者來說，這篇文章透露出一個很實際的訊號：OpenAI 絕不會把模型做成完全放任自流的工具。他們明確提到，未來產品的「預設設定」可能會相當保守和受限，雖然他們承諾會留出空間讓使用者自己調整偏好，但大範圍的安全圍欄是焊死的。

對整個行業而言，這是第一家頭部 AI 實驗室公開提議「給超大模型訓練套上緊箍咒」。諸如限制算力增速、引入獨立審計、政府知情權等提議，看起來是在主動邀請監管入場。這不僅會重塑後續前沿大模型的研發門檻，也會直接把競爭對手逼到必須同樣回答「你們怎麼對付 AGI 風險」的監管聚光燈下。

我們認為，OpenAI 這篇文章聰明的地方在於，它試圖把「商業化激進部署」重新包裝成「為了安全不得不做的漸進測試」，邏輯上確實能自圓其說。但隱患也恰恰在這裡：當一家公司既是這場無限競賽的領跑者，又是自我剎車的裁判員時，所謂的「在關鍵節點放慢速度」極容易淪為一句空話。只要商業競爭還在繼續，誰又能真正鼓起勇氣先踩下剎車？