加州再試監管AI巨頭：李飛飛等專家支招，力推第三方獨立審查

去年 9 月，加州州長 Gavin Newsom 否決了引發全美關注的 SB 1047 法案。當時那項法案規定，訓練成本達到 1 億美元的大模型必須做特定安全測試，科技巨頭一片叫好，吹哨人和安全研究者則大失所望。

Newsom 當時覺得那套方案一刀切、太嚴苛，於是轉身組建了一個頂級學者團隊，讓他們拿出一套替代方案。週二，這份長達 52 頁的《加州前沿政策報告》正式公佈。

報告牽頭人包括斯坦福以人為本人工智慧研究院聯合主任李飛飛、卡耐基國際和平研究院院長 Mariano-Florentino Cuéllar，以及加州大學伯克利分校計算、資料科學與社會學院院長 Jennifer Tour Chayes。他們的核心結論很直白：單靠開發者自己，根本沒法完全搞清 AI 模型的風險和危害。

別隻數算力，該給獨立評測開綠燈了

報告指出，自從去年的法案被否決以來，AI 的思維鏈推理能力提升極快。模型在化學、生物、放射性及核武器（CBRN）等高危領域的風險證據也在持續增加，甚至巨頭們自己披露的測試裡，模型在這些方面的能力也出現了令人擔憂的激增。

針對監管標準的劃分，專家組推翻了單純以算力劃線的做法。他們認為，AI 訓練需求一直在變，純算力指標根本看不到模型在真實場景裡的落地影響，算力最多隻能作為初步篩選的工具，關鍵在於前期的風險評估和下游影響追蹤。

報告提出的核心解法是強制第三方評估。現在的行業現狀是各自為政，企業要麼自己測，要麼花錢僱外包團隊測試。但專家組認為，開發者自身存在嚴重的視角盲區，而成千上萬的獨立研究者不僅數量上遠超企業內部團隊，背景也更多元。

為了讓第三方能真正幹活，報告明確呼籲設立安全港條款，防止科技公司利用苛刻的服務條款起訴或封禁那些挖出漏洞的研究人員。同時，報告還要求加強吹哨人保護，併為因 AI 遭受實際傷害的人群提供報告渠道。

誰在給大門上鎖？

然而，真要落地第三方獨立評測，最大的阻礙是企業不願意給許可權。如果研究人員進不去核心層，評測就只能浮於表面。

就連受聘合作的評測機構日子也不好過。與 OpenAI 合作進行安全測試的評估機構 Metr 之前發文透露，他們在測試 OpenAI 的 o3 模型時，拿到的測試時間遠少於以往模型，OpenAI 也沒有提供足夠的資料和模型內部推理過程訪問許可權，直接導致他們無法做出可靠的能力評估。儘管 OpenAI 隨後表示正在探索共享更多資料的方式，但這足以說明企業對放開核心許可權有多警惕。

本月早些時候，Anthropic 執行長 Dario Amodei 曾公開發文，呼籲聯邦層面制定透明度標準，要求頭部公司在官網公開如何防範國家安全及災難性風險。但加州報告的作者們直言，僅靠企業自律公開還遠遠不夠。

為什麼重要

加州這份報告最大的意義，在於它試圖把 AI 安全測試從企業的公關自留地裡搶出來，變成一項受到法律保護的公共監督權利。

對安全研究人員和獨立白帽駭客來說，安全港製度如果能落地，意味著他們不必再頂著被起訴、被封號的法律風險去給巨頭挑刺。但對普通開發者和小型創業團隊而言，只要最終政策不把算力門檻演變成複雜的合規包袱，就不會直接扼殺早期嘗試。

我們認為，專家組放棄死磕算力指標非常聰明。大模型架構和推理效率日新月異，按算力劃線幾個月就會過時；轉而盯住下游落地風險和資料透明度，才切中了技術演進的要害。但隱患也很刺眼：報告要求企業給予外部評估者深度的訪問許可權，這直接踩到了科技巨頭的核心商業秘密與智慧財產權紅線。OpenAI 連 Metr 這樣的合作伙伴都防著一手，要讓巨頭對分散的外部研究者完全敞開大門，落地阻力可想而知。

更深層的博弈來自政治層面。當前美國國會共和黨人與部分科技巨頭正在推動一項為期 10 年的聯邦禁令，試圖全面禁止各州自行監管 AI。加州報告的第一作者 Scott Singer 認為，加州可以藉此引領各州建立常識性政策。看起來，這不僅是一次監管方案的技術重構，更是加州地方立法權與華盛頓聯邦政策之間、企業自主權與公共監督之間的一場正面較量。