Anthropic 呼籲設立 AI 版「民航局」：主張強制第三方測試並賦予叫停權

在《魔戒》的故事裡，樹人樹須光是跟同伴打個招呼就得花上一整天，而霍位元人早已在森林裡狂奔。在 Anthropic CEO Dario Amodei 眼裡，眼下的華盛頓和前沿大模型，就像是樹須與霍位元人的翻版。

Amodei 發表了一篇名為《Policy on the AI Exponential》的萬字長文，直言 AI 技術的指數級狂飆已經讓立法速度徹底脫節。他正式呼籲政府介入，照搬民航監管的邏輯，給最頂級的大模型建立一套強制測試與叫停機制。

伴隨這篇長文，Anthropic 還同步公開了一份針對前沿模型測試的立法提案，以及一套應對崗位替代的政策框架，並承諾將為後者提供實質性的資金支援。

透明度不夠用了，前沿模型得拿「適航證」

回看過去兩三年，Anthropic 和其他安全倡導者在政策上打的主意，大多停留在「透明度」層面。他們推動了加州的 SB 53、紐約的 RAISE 以及伊利諾州的 SB 315 等法案，要求大廠公開測試流程和安全事件，先看清風險再說。

但在 Amodei 看來，這種溫和策略的保質期已經過了。最直接的轉折點，是前段時間 Claude Mythos Preview 在全球網路安全領域引發的震盪。它用事實證明，前沿模型不再只是好玩的生產力玩具，而是具有國家戰略後果的重型工具。

所以他提出了類似美國聯邦航空管理局（FAA）的硬性監管框架。如果一款客機不安全，監管機構絕不會允許它起飛；大模型也該一樣，達到一定算力門檻的模型，必須通過合格第三方的強制安全評估，拿到「適航證」才能上線。

這套測試死死盯住四個致命領域：網路安全、生物武器、系統失控風險，以及可能加速上述危險的自動化研發能力。如果第三方評估認定風險過高，政府必須有權直接叫停或阻止模型的部署。

除了測試與叫停權，提案還要求廠商執行嚴格的模型權重保護標準，定期做紅隊與滲透測試，並在核心領域發生安全事件時第一時間向監管機構報告。

超級增長背後，是無法忽視的失業炸彈

除了技術本身的殺傷力，Amodei 這次還花了大篇幅警告經濟結構的風暴。

過去大家爭論減稅還是增加福利，前提都是經濟增長艱難而脆弱。但如果一個數據中心裡能塞進「一個國家的頂尖天才」，各行各業的研發和運營效率都會被瞬間拉爆，帶來罕見的超高速增長。

問題在於，AI 正在成為人類認知能力的通用替代品。這種增長極有可能直接固化為「超級增長伴隨極端不平等」的死局，甚至造成永續性的勞動力替代。

這也是 Anthropic 這次拿出崗位替代政策框架的原因。他們不打算只停留在口頭呼籲，而是表態要自掏腰包提供資金支援，試圖趕在勞動力市場徹底失控前搭建安全網。

為什麼重要

我們認為，Anthropic 這一步走得極其精明，但也把整個大模型陣營推到了聚光燈下。

從行業競爭來看，由頭部領跑者主動要求政府設卡，客觀上會大幅拉高前沿模型的研發門檻。算力達到門檻後必須接受第三方審查、部署可能被一票否決、權重防護要對標軍工級標準，這一整套合規成本是絕大多數中小型初創團隊和開源社群難以承受的。

對普通使用者和企業開發者而言，這可能意味著未來最前沿的模型釋出節奏會變慢，但被駭客利用發起毀滅性攻擊的系統性風險會有所收斂。大模型正在告別無拘無束的狂野西部時代，進入被嚴密監管的公用工程階段。

不過，這個提案最大的懸念在於執行。誰來充當 AI 領域的 FAA？如果審查機制被政客操控，或者演化成大公司抵禦競爭的護城河，創新的代價可能會比想像中更高。但無論如何，當科技巨頭親自把監管韁繩遞到政府手裡時，整個行業的權力天平已經開始傾斜了。