OpenAI 聯合多家機構落實白宮安全承諾：給前沿 AI 戴上緊箍

AI 跑得太快，各國的監管法案還在起草，幾家大模型巨頭先在白宮把自己管起來了。

OpenAI 宣佈聯合多家頂尖 AI 實驗室，在白宮的協調下籤署了一套關於 AI 安全、安保與可信度的自願性承諾。OpenAI 全球事務副總裁 Anna Makanju 表示，世界各地的政策制定者正在醞釀針對高能力 AI 系統的立法，這次承諾是給這些討論提供具體的實踐模板。

有趣的是，這套承諾管的不是現有的產品，而是劃了一條明確的門檻：它只適用於能力全面超越現有行業前沿的生成式模型。OpenAI 在檔案裡直接點名了當前的基準線，包括 GPT-4、Claude 2、PaLM 2、Titan，以及影像領域的 DALL-E 2。也就是說，只有未來那些比它們更強大的下一代怪物，才必須嚴格遵守這些規則。

防自我複製，還要給生成內容蓋戳

這套自願承諾一共有八條，幾乎覆蓋了目前外界對 AI 最擔心的幾個靶點。

首先是嚴格的紅隊測試。針對下一代超強模型，各家公司必須引入獨立的領域專家做內外雙重紅測。重點排查的方向很硬核，包括生物、化學和放射性武器風險，網路攻擊漏洞發現，系統對實體物理裝置的控制能力，甚至明確寫進了防範模型「自我複製」的能力。

其次是防內鬼和保密。未釋出的模型權重被列為核心商業機密，各家必須嚴格限制訪問許可權，部署對抗內部威脅的檢測程式，防止未授權洩露。

為了發動外部力量，各家承諾設立漏洞賞金計劃，懸賞找出安全漏洞和危險行為的人。同時，各家要建立行業與政府間的資訊共享機制，遇到被繞過安全防禦的手段及時通氣。

對於普通人感知最明顯的一條，是音影片防偽。各家承諾為系統生成的音訊和影像開發水印或來源追蹤技術，並提供檢測工具或 API，方便公眾分辨眼前的多媒體內容到底是真人拍的還是 AI 畫的。

此外，承諾還包括在模型釋出前公開透明度報告、優先研究偏見和隱私等社會風險，以及推動 AI 用於氣候變化和癌症篩查等重大議題。

為什麼重要

這套承諾最大的價值，在於它給行業樹立了第一套具象化的「及格線」。

對普通使用者和創作者來說，短時間內你手裡的 ChatGPT 不會有明顯變化，因為現有模型並不在約束範圍裡。但水印和來源追蹤技術的落地，未來能幫大家在社交平臺上少被 AI 假新聞和偽造音影片欺騙。

對行業來說，巨頭們聯合制定規則，在某種程度上搶跑了監管。在國會和監管機構摸清門道之前，頭部廠商先把紅隊測試、權重保護、漏洞賞金這套打法固化成了事實標準。這會倒逼所有想衝刺前沿大模型的後來者，不得不承擔同樣高昂的安全合規成本。

我們認為，巨頭們這步棋走得很聰明，但也留下了不小的隱患。

聰明的地方在於，他們用自願承諾換取了監管層面的喘息空間，展現了積極配合的姿態。但問題也很明顯：這只是一份「自願性」檔案，完全沒有法律約束力和懲戒手段，全憑自覺。

更微妙的是那個適用範圍。把門檻卡在「超越 GPT-4 和 Claude 2」，看起來像是在對未來風險未雨綢繆，實際上也巧妙地把各家目前已經在賺錢的主力產品摘了出去。在真正的硬性法規落地之前，這更像是一場行業自律的高規格公關演習。