OpenAI 安全委員會轉為獨立架構：擁有推遲模型釋出權

讓一個跑得飛快的 AI 實驗室自己踩剎車，一直以來都像是在開玩笑。

OpenAI 宣佈把自家的安全與安保委員會改組為獨立的董事會監督委員會。最關鍵的變化在於權力，這個新委員會不僅要聽取管理層的模型安全評估彙報，還握有一項實權：如果安全問題沒解決，他們有權直接推遲模型釋出。

誰在握著剎車踏板

這個委員會剛剛完成了為期 90 天的安全流程審查，董事會隨即批准了他們提出的五大建議並正式完成改組。

委員會主席由卡內基梅隆大學計算機學院機器學習系主任 Zico Kolter 擔任。其他三名成員包括 Quora 聯合創始人兼執行長 Adam D’Angelo、退役美國陸軍上將 Paul Nakasone，以及前索尼執行副總裁兼總法律顧問 Nicole Seligman。

值得注意的是，此前這個委員會還包括薩姆·奧特曼等管理層成員。現在它變成了一個完全由董事會獨立董事組成的監督機制，專門監督模型開發和上線全過程。

在做出這輪調整前，該委員會已經參與審查了最新發布的推理模型 OpenAI o1 的上線標準與安全評估結果。

築高牆與拉外援

除了設立獨立監督委員會，OpenAI 還公佈了一系列安全防線落地的動作。

在網路安全層面，OpenAI 正在推行更嚴格的內部資訊分段隔離，擴建全天候輪值安全運維團隊，並評估為整個 AI 行業建立類似金融或關鍵基礎設施領域的網路威脅資訊共享與分析中心。

在外部合作上，他們拉來了美國洛斯阿拉摩斯國家實驗室，評估前沿 AI 在生物科學實驗環境下的潛在風險，同時還與美英兩國的 AI 安全研究所達成了風險研究協議。

為了把這些規則真正落進日常開發，OpenAI 內部還重組了研究、安全與政策團隊，準備建立一套指標明確且能隨著模型能力動態調整的綜合安全框架。

為什麼重要

我們認為，OpenAI 這一步最大的看點在於把安全一票否決權交給了獨立董事。過去大模型團隊總是既當運動員又當裁判員，商業競爭壓力一旦上來，安全底線往往會被壓縮。

把推遲釋出的開關交給外部學術界、前軍方情報高官和法律專家，看起來是一次聰明的制度補丁。這不僅能安撫外界對超級智慧失控的焦慮，也為應對全球監管機構鋪好了合規臺階。

但隱患依然擺在檯面上。即便委員會握有延期釋出的權力，在日趨激烈的商業纏鬥中，他們到底有沒有魄力、能不能真的頂住競爭壓力叫停旗艦模型的發版節奏，目前依然要打個問號。制度寫在了紙面上，真正的考驗永遠在下一次重磅模型衝刺上線的那一刻。