OpenAI 與 Anthropic 簽約：新模型釋出前後接受美政府安全測試

過去大模型發新版本，都是廠商自己在釋出會上宣佈「我們測過了，很安全」。現在這個規矩變了，政府的技術人員要在釋出前先進場。

OpenAI 和 Anthropic 分別與美國商務部國家標準與技術研究院下屬的 AI 安全研究所（US AISI）簽署諒解備忘錄。兩家公司同意，在未來重大新模型公開上線之前和上線之後，都允許該機構提前接入並開展安全測試。

提前交出大模型鑰匙

根據這份備忘錄，AI 安全研究所不僅能提前上手模型，還會和英國同類機構協作，評估這些模型的潛在風險，並向兩家公司提供具體的改進反饋。

研究所所長 Elizabeth Kelly 把這稱為一個重要里程碑，但也直言這只是個開始。OpenAI 執行長 Sam Altman 隨後在社交平臺發文表示歡迎這一協議。Anthropic 聯合創始人 Jack Clark 則提到，藉助外部專家的專業知識在廣泛部署前做嚴格測試，能加強他們識別和化解風險的能力。

有意思的是，兩家公司雖然在商業上打得不可開交，在監管門前卻難得步調一致。Anthropic 估值最近達到 184 億美元，背後站著亞馬遜；OpenAI 則背靠微軟，周活躍使用者剛翻倍衝到 2 億，還在洽談由 Thrive Capital 領投的新一輪超 1000 億美元估值的融資。

加州法案逼出來的妥協？

這樁合作敲定的時機非常耐人尋味。就在簽署協議的前一天，加州立法機關剛剛通過了爭議巨大的 SB 1047 法案。這項法案要求大模型廠商在訓練先進基礎模型之前，必須執行一系列強制的安全評估，正等著加州州長 Gavin Newsom 在 9 月 30 日前簽字生效。

OpenAI 和 Anthropic 之前都對加州法案表示過反對或擔憂，認為過於嚴苛的硬性要求會扼殺創新，還會傷及開源開發者。與加州帶著法律懲罰性質的硬法相比，聯邦層面的這次合作基於拜登政府 2023 年 10 月簽署的行政命令，本質上依然屬於自願性質的備忘錄。

早在 6 月 4 日，部分 OpenAI 現任和前任員工就發表過公開信，批評 AI 公司為了商業利益根本無法做到自覺監管，現有的外部監督機制也太脆弱。緊接著，美國司法部和聯邦貿易委員會也傳出對 OpenAI、微軟和輝達發起反壟斷審查的訊息。腹背受敵之下，主動向聯邦安全部門示好，顯然是一步緩解監管壓力的防禦棋。

為什麼重要

我們認為，這一步走得相當精明，但它帶來的安全感可能被打上折扣。

從表面看，普通使用者和開發者在短期內不會感受到變化。API 介面還在，產品照常迭代，甚至因為有國家機構的背書，企業採購大模型時顧慮還會少一些。但問題在於，這種沒有法律硬約束的自願備忘錄，究竟有多大執行力。政府測試發現了致命缺陷，能不能強制廠商停發，來源裡並沒有給出強硬答案。

對行業來說，OpenAI 和 Anthropic 實際上是在用擁抱聯邦軟監管的姿態，來對沖加州乃至全美更嚴厲的地方立法。它們想證明行業能夠自律、能夠與政府合作，從而說服監管者放慢立法的步子。這就把壓力推給了其他頭部玩家，如果 Google 或 Meta 不跟進簽署類似協議，在輿論和政界眼裡就會顯得極不負責。

不過，我們看起來這種做法依然留有隱患。安全測試需要耗費數週甚至數月，這意味著未來大模型從內部跑通到推向市場，週期會被明顯拉長。更關鍵的是，如果評估標準由極少數閉門機構與頂級大廠私下商定，整個行業的技術標準可能會被過早鎖定在巨頭熟悉的軌道里，小團隊和開源專案反而會成為規則的局外人。