OpenAI 承諾向美國 AI 安全研究所提前開放下一代模型測試

解散超級對齊團隊、兩位元老負氣出走後，OpenAI 最近的日子並不好過。被國會議員和輿論輪番敲打之後，Sam Altman 決定把下一代模型的鑰匙，先分一把給美國政府。

OpenAI 執行長 Sam Altman 在 X 上發文宣佈，公司正與美國人工智慧安全研究所達成協議，將在其下一個主要生成式 AI 模型釋出前，提前提供訪問許可權以進行安全測試。在此之前，OpenAI 已經在 6 月與英國的 AI 安全機構簽過類似的協議。

拆了自家的安全團隊，現在找官方背書

Altman 這次公開表態，細節其實並不多，但滅火的意味非常明顯。

今年 5 月，OpenAI 實際上解散了專門負責防止超智慧 AI 失控的超級對齊團隊。當時外界報道直指 OpenAI 為了搶著推新產品，把安全研究丟在了一邊，直接導致團隊兩位負責人離職。其中 Jan Leike 轉頭去了競爭對手 Anthropic 負責安全，聯合創始人 Ilya Sutskever 則自立門戶創立了 Safe Superintelligence。

為了挽回聲譽，OpenAI 隨後取消了限制前員工發聲的非貶損協議條款，設立了新的安全委員會，並承諾將兩成算力撥給安全研究。但觀察人士並不買賬，因為安全委員會的成員清一色是 Altman 等公司內部高管，近期他們還把一位頂級安全主管調離了原部門。

美國政界也盯上了這件事。包括夏威夷州民主黨參議員 Brian Schatz 在內的五位參議員，最近聯名致信質問 Altman。OpenAI 首席戰略官 Jason Kwon 則緊急回應，堅稱公司在流程的每一個階段都在執行嚴格的安全規範。

遊說支出翻三倍，是配合合規還是監管俘獲

找上美國 AI 安全研究所的時機也頗具戲劇性。

就在達成測試協議的幾天前，OpenAI 剛剛公開支援了一項名為《未來創新法案》的參議院提案。這項法案的目的，正是要把隸屬於美國商務部國家標準與技術研究院的 AI 安全研究所法定化，賦予其制定模型標準和規範的執行權力。

一手支援對方成為法定裁判，一手主動把新模型交過去接受測試，這很難不讓人產生「監管俘獲」的聯想。說白了，OpenAI 正在極力爭取對聯邦 AI 規則制定的主導權。

數字也說明了這一點。今年前六個月，OpenAI 在聯邦遊說上的支出已經飆升到了 80 萬美元，而 2023 年整整一年他們才花了 26 萬美元。此外，Altman 本人也是美國國土安全部人工智慧安全與保障委員會的成員。

目前這個國家級安全研究所正與一個大型企業聯盟合作，成員除了 OpenAI，還包括 Anthropic、谷歌、微軟、Meta、蘋果、亞馬遜和輝達。該聯盟正在落實白宮此前的行政命令，針對紅隊測試、能力評估、風險管理和合成內容水印製定具體細則。

為什麼重要

對於關注 OpenAI 進展的使用者和開發者來說，這意味著下一代旗艦模型的釋出節奏大機率會被拉長。在模型真正推向市場前，必須先經過官方機構的紅隊安全審查，但這也意味著未來發布的模型在安全漏洞和被監管叫停的風險上會低得多。

在行業競爭層面，我們認為 OpenAI 這一招非常老練。它一方面堵住了國會和公眾關於其「要速度不要安全」的質疑，另一方面通過大力遊說和深度繫結官方機構，把安全標準定成了只有頭部巨頭才玩得起的門檻。

隱患在於其內部治理的透明度依然不足。安全委員會依然是自家人管自家人，加上此前答應給安全團隊的兩成算力曾被曝出並未兌現，Altman 現在的承諾到底能落實多少，依然要打個問號。但看起來，將前沿模型在釋出前交由第三方安全機構把關，正在成為整個頭部大模型行業不得不接受的標準流程。