OpenAI 公佈五大原則:防止少數人壟斷超智,承諾降低算力成本
OpenAI 釋出指導 AGI 開發的五項原則,涵蓋民主化、賦能、共同繁榮、韌性與適應性。OpenAI 承諾防止技術權力集中在少數實驗室手中,主張通過民主機制決定關鍵事項。團隊表示將繼續在全球擴建基礎設施以大幅降低算力成本,並與政府合作防範新型病原體與網路安全風險。

如果一家公司一邊瘋狂燒錢買晶片、在全球到處蓋資料中心,一邊賬面收入還沒趕上開銷,外人往往會覺得它瘋了。
OpenAI 顯然知道外界在嘀咕什麼。4 月 26 日,Sam Altman 代表 OpenAI 正式釋出了一份原則宣言,把公司推進通用人工智慧(AGI)的底層邏輯歸納成了五大核心承諾,順帶回應了這些在外界看來有些奇怪的動作。
這份宣言裡列出的五條原則分別是民主化、賦能、普遍繁榮、韌性以及適應性。OpenAI 表示,未來的權力如果只集中在少數幾家掌控超級智慧的公司手裡,將是極其危險的,他們的目標是把真正的通用 AI 交到儘可能多的人手中。
解釋那些「看不懂的操作」
很多人好奇,OpenAI 為什麼要在這個階段不計成本地採購海量算力,甚至通過垂直整合在全球鋪設資料中心。
OpenAI 在原則裡明確解釋,想要實現普遍繁榮,就必須把 AI 基礎設施的成本徹底打下來。只有當便宜且強大的算力無處不在時,普通人才能利用它去創造新價值和推動科學發現,這也解釋了為什麼他們寧可在收入相對較小時承擔極高的基建投入。
同時,他們認為單靠科技公司無法解決所有問題。為了應對未來可能出現的新型病原體制造風險或網路安全漏洞,OpenAI 計劃動用其基金會(Foundation)的資源,與各國政府及國際機構聯手建立防禦機制。
在安全方面,他們特別提到了迭代部署策略。OpenAI 還拿當年的往事自嘲了一把:當年他們曾因為害怕潛在衝擊而不敢開源 GPT-2 的模型權重,事後看這種擔憂顯然過頭了,但也正是那次經歷,讓他們確立了邊部署、邊觀察、邊調整的路線。
不過他們也坦言,OpenAI 現在的體量和影響力已經遠非幾年前可比。如果未來為了抵禦重大風險,他們可能會在特定時期犧牲一部分使用者自主權,甚至在解決對齊問題前暫停推進部分工作。
為什麼重要
我們認為,這份宣言的核心並不是在喊口號,而是一次高規格的預期管理與戰略定調。
對普通使用者和開發者來說,OpenAI 承諾放寬日常使用限制,但同時也打了一劑預防針。在涉及新型生物安全和關鍵基礎設施等不確定場景時,平臺隨時可能收緊安全閥門,這意味著依賴前沿模型做極端自動化測試的開發者,必須隨時準備面對政策收緊的波動。
對整個行業而言,OpenAI 把狂買算力和全球自建資料中心包裝成了「為了全人類普遍繁榮降低成本」的必然之舉。這種敘事巧妙地把高槓杆的基礎設施軍備競賽,轉化成了一種道德層面的使命感,無形中給其他競爭對手施加了巨大的輿論與公關壓力。
但這份宣告的隱患也很明顯。一方面,OpenAI 承諾關鍵決策不能只由 AI 實驗室說了算,要通過民主流程進行監管;另一方面,他們又保留了在風險面前隨時調整立場、甚至在賦能與韌性之間做取捨的最終解釋權。當裁判員和領跑者是同一個商業實體時,所謂的民主化究竟能落地多少,外界依然會打上一個大大的問號。
來源 (1)
- openai.com(在新分頁開啟)原文openai.com