Hassabis 呼籲美主導設立全球 AI 監管機構：太危險可叫停全行業

過去一個月，美國政府在面對 Anthropic 的 Mythos 和 OpenAI 的 Sol 時，倉促拿出了臨時審查和禁令。這種見招拆招的監管方式，很快被業內吐槽既缺乏專業技術能力，決策過程又像個黑箱。

現在，頭部 AI 實驗室的掌門人決定自己交一份答卷。Google DeepMind 執行長 Demis Hassabis 在題為《前沿 AI 框架與新時代的黎明》的文章中提出，應該建立一個由美國主導的獨立標準機構，專門給前沿模型把關，而且最好在今年年底前就跑起來。

仿照金融圈搞「自我監管」

Hassabis 給出的方案，核心是參照美國金融業監管局 FINRA 的模式。換句話說，它不是像 FDA 那樣由政府直接派駐官僚設立的新衙門，而是一個由 AI 行業出資、但保持獨立運作的自律組織。

白宮 AI 顧問兼 a16z 合夥人 Sriram Krishnan 前不久才公開表示，行政部門絕對不會搞一個「AI 版 FDA」。Hassabis 選在這個時候丟擲 FINRA 模式，明顯是在順應這種政治風向，試圖找一條政府能接受、業界也不至於徹底反彈的折中路線。

按照他的規劃，這個機構將由業內獨立技術專家和開源社群代表組成，日常也可以把具體的測試任務外包給專門的安全評估團隊。監管認定的標準取決於模型的能力邊界，而不是開發者的地理位置或接入方式，主要防範欺騙性行為、生物武器製造以及惡意駭客技能。

具體跑起來分為兩步。一開始，前沿實驗室在模型釋出前 30 天，自願把模型交過去接受測試。一旦這套評估流程被證明紮實有效，就會迅速推進正式立法，所有前沿模型必須先通過測試，拿到合格證才能在美國市場上線部署。釋出之後出現嚴重漏洞，實驗室也得配合這個機構共同修補。

更惹人注目的是剎車機制。Hassabis 提出，如果測試判定某個模型風險過高，該機構有權協調整個行業集體放慢釋出節奏。

留給行業的時間不多了

這位剛剛斬獲 2024 年諾貝爾化學獎的學者兼創業者，最近幾個月一直在臺下密集遊說。據 Axios 報道，他已經向特朗普政府、其他頭部 AI 實驗室以及歐洲官員做了吹風。Hassabis 透露，從特朗普政府那邊聽到的反饋相當正面。

催促他急於推進行動的原因是對 AGI 進展的緊迫感。Hassabis 直言，人類距離通用人工智慧可能只剩短短幾年，大家現在其實正站在奇點的山腳下。他在接受採訪時還補充了一個更具體的期限：開源模型的能力可能在 18 個月內就會跨進危險地帶。

上個月，Hassabis 才剛剛聯名簽署了針對 AI 輔助生物武器的防護呼籲，Jack Clark、Eric Schmidt 等業內大佬也在要求全球領導人重視 AI 帶來的經濟衝擊。大家心裡其實都明白，純粹的放任自流已經很難維持下去了。

為什麼重要

對於普通的獨立開發者或中小團隊來說，這個機構眼下可能不會直接管到你頭上。規則針對的是最頭部的超大規模前沿模型，你的呼叫成本和日常開發短期內不會暴漲。但如果開源能力在一年半內被納入所謂危險紅線，未來開源社群獲取前沿基礎權重的門檻，很可能會被這套流程大幅抬高。

對整個行業而言，這件事標誌著監管的主導權爭奪已經徹底白熱化。此前政府那種拍腦袋式的臨時禁令，已經讓各大實驗室心驚膽戰。Hassabis 這步棋走得非常聰明，與其等著外行的政客制定粗暴的規矩，不如搶在前面自己寫好遊戲規則，把裁判席的大部分位子留給懂技術的內行。

但這套設計看起來也有顯而易見的隱患。一個由頭部科技巨頭出資維繫的自律機構，真的能做到對外宣稱的絕對獨立嗎。如果協調集體減速的權力掌握在少數幾家大廠手裡，這種機制很容易在不知不覺中演變成巨頭構築行業壁壘、阻擊後來者的防空洞。

我們認為，在完全無序的臨時行政干預和過度嚴苛的政府准入之間，FINRA 式的行業自律確實是現階段最具可行性的一張牌。但要想讓外界信服，評測指標必須絕對公開透明，否則它很快就會變成另一個由科技巨頭自己坐莊的利益閉門會。