Anthropic 呼吁设立 AI 版「民航局」：主张强制第三方测试并赋予叫停权

在《魔戒》的故事里，树人树须光是跟同伴打个招呼就得花上一整天，而霍比特人早已在森林里狂奔。在 Anthropic CEO Dario Amodei 眼里，眼下的华盛顿和前沿大模型，就像是树须与霍比特人的翻版。

Amodei 发表了一篇名为《Policy on the AI Exponential》的万字长文，直言 AI 技术的指数级狂飙已经让立法速度彻底脱节。他正式呼吁政府介入，照搬民航监管的逻辑，给最顶级的大模型建立一套强制测试与叫停机制。

伴随这篇长文，Anthropic 还同步公开了一份针对前沿模型测试的立法提案，以及一套应对岗位替代的政策框架，并承诺将为后者提供实质性的资金支持。

透明度不够用了，前沿模型得拿「适航证」

回看过去两三年，Anthropic 和其他安全倡导者在政策上打的主意，大多停留在「透明度」层面。他们推动了加州的 SB 53、纽约的 RAISE 以及伊利诺伊州的 SB 315 等法案，要求大厂公开测试流程和安全事件，先看清风险再说。

但在 Amodei 看来，这种温和策略的保质期已经过了。最直接的转折点，是前段时间 Claude Mythos Preview 在全球网络安全领域引发的震荡。它用事实证明，前沿模型不再只是好玩的生产力玩具，而是具有国家战略后果的重型工具。

所以他提出了类似美国联邦航空管理局（FAA）的硬性监管框架。如果一款客机不安全，监管机构绝不会允许它起飞；大模型也该一样，达到一定算力门槛的模型，必须通过合格第三方的强制安全评估，拿到「适航证」才能上线。

这套测试死死盯住四个致命领域：网络安全、生物武器、系统失控风险，以及可能加速上述危险的自动化研发能力。如果第三方评估认定风险过高，政府必须有权直接叫停或阻止模型的部署。

除了测试与叫停权，提案还要求厂商执行严格的模型权重保护标准，定期做红队与渗透测试，并在核心领域发生安全事件时第一时间向监管机构报告。

超级增长背后，是无法忽视的失业炸弹

除了技术本身的杀伤力，Amodei 这次还花了大篇幅警告经济结构的风暴。

过去大家争论减税还是增加福利，前提都是经济增长艰难而脆弱。但如果一个数据中心里能塞进「一个国家的顶尖天才」，各行各业的研发和运营效率都会被瞬间拉爆，带来罕见的超高速增长。

问题在于，AI 正在成为人类认知能力的通用替代品。这种增长极有可能直接固化为「超级增长伴随极端不平等」的死局，甚至造成持久性的劳动力替代。

这也是 Anthropic 这次拿出岗位替代政策框架的原因。他们不打算只停留在口头呼吁，而是表态要自掏腰包提供资金支持，试图赶在劳动力市场彻底失控前搭建安全网。

为什么重要

我们认为，Anthropic 这一步走得极其精明，但也把整个大模型阵营推到了聚光灯下。

从行业竞争来看，由头部领跑者主动要求政府设卡，客观上会大幅拉高前沿模型的研发门槛。算力达到门槛后必须接受第三方审查、部署可能被一票否决、权重防护要对标军工级标准，这一整套合规成本是绝大多数中小型初创团队和开源社区难以承受的。

对普通用户和企业开发者而言，这可能意味着未来最前沿的模型发布节奏会变慢，但被黑客利用发起毁灭性攻击的系统性风险会有所收敛。大模型正在告别无拘无束的狂野西部时代，进入被严密监管的公用工程阶段。

不过，这个提案最大的悬念在于执行。谁来充当 AI 领域的 FAA？如果审查机制被政客操控，或者演化成大公司抵御竞争的护城河，创新的代价可能会比想象中更高。但无论如何，当科技巨头亲自把监管缰绳递到政府手里时，整个行业的权力天平已经开始倾斜了。