加州推進嚴苛 AI 安全法案：強制自測「災難風險」引矽谷巨頭反彈

一邊是特朗普和共和黨打算撕掉聯邦層面的 AI 緊箍咒，另一邊是加利福尼亞州打算把規矩立得比誰都嚴。

在密爾沃基開會的共和黨代表剛表態要廢除拜登針對人工智慧的聯邦限制，特朗普的盟友甚至在謀劃軍用 AI 的「曼哈頓計劃」。但加州控制議會的民主黨人走了一條相反的路：他們正在力推一項法案，強制要求資金最雄厚的大公司在向公眾釋出大模型之前，先完成「災難性風險」測試。

這項法案由舊金山民主黨參議員 Scott Wiener 提出。法案一旦通過，只要訓練時使用的算力達到特定門檻，企業就必須自證自家模型不會被用來製造生化武器、攻擊關鍵基礎設施或導致電網癱瘓。

矽谷巨頭這次真急了

法案在加州參議院委員會通過後，科技行業的態度急轉直下。

以往科技巨頭往往躲在行業協會背後發聲，但這次他們直接實名上書。Google 的 AI 與新興技術政策主管 Alice Friend 致信委員會主席，直言法案裡的要求在技術上根本行不通，甚至會懲罰那些已經盡到責任的開發者。

Meta 和微軟也先後寄出了信件。行業協會 TechNet 的高管 Dylan Hoffman 說，巨頭們不再通過協會傳話，而是親自簽署信件公開反對，這說明他們把這項法案看作真正的威脅。

業界最擔心的是官僚負擔和責任認定。反對者甚至宣稱，一旦技術被人拿去做壞事，開發者可能面臨牢獄之災。Wiener 本人對此予以強烈否認，稱法律只想防止極端災難，併為公眾建立安全信任。

除了強制大廠做安全測試，這項法案還打算成立一個全新的監管機構「前沿模型部門」，負責審查安全報告，並有權動態調整受監管的模型範圍。為了安撫中小團隊，法案提出由加州政府出資搭建一個公共雲端計算系統，讓初創公司和科研人員不必完全依賴巨頭的昂貴算力。

布魯金斯學會技術創新中心主任 Nicol Turner Lee 評價說，之前巨頭向白宮做出的安全承諾多半是自願性質的，Wiener 的提案直接把自願變成了強制，而且要求大廠承擔實質性責任，行業自然很難嚥下這口氣。

為什麼重要

對開發者和初創團隊來說，加州立法是一把雙刃劍。表面上看，法案設立了公共算力池，試圖幫小團隊擺脫對雲巨頭的依賴，算力門檻也暫時落不到小模型頭上。但科技界的不安並非空穴來風：一旦開發鏈條上游的開源大模型為了規避連帶法律責任而收緊權重發布，下游呼叫介面或微調模型的創業者，能拿到的開源資源可能會大幅縮水。如果你正在基於前沿基礎模型創業，現在就得緊盯加州監管尺度的最終落點。

對整個行業而言，薩克拉門托正在成為事實上的全美科技規則制定地。全美今年有超過 450 項 AI 相關提案，光加州就積壓了 40 多項。回看 2018 年加州通過的全美最嚴隱私法，以及加州車管所對自動駕駛的管轄，聯邦立法越是難產或面臨反轉，加州法案就越容易變成全美通行的事實標準。如果特朗普在 11 月勝選並兌現廢除聯邦行政令的承諾，全美 AI 監管的唯一主戰場就徹底落在了加州。

我們認為，Wiener 試圖用前置審查來防範極端生化武器和網路攻擊，初衷很合理，但設立專門部門動態決定「誰違規」的做法，給技術落地帶來了巨大的不確定性。技術安全測試的行業公認標準本就還在摸索中，在規則還不成熟時就強推行政責任，看起來確實容易逼得部分本土創新力量出走外州。如何分清大模型創造者的法律責任與下游使用者的惡意行為，加州這套打法顯然還沒給出一個讓技術界信服的平衡點。