Hassabis 呼吁美主导设立全球 AI 监管机构：太危险可叫停全行业

过去一个月，美国政府在面对 Anthropic 的 Mythos 和 OpenAI 的 Sol 时，仓促拿出了临时审查和禁令。这种见招拆招的监管方式，很快被业内吐槽既缺乏专业技术能力，决策过程又像个黑箱。

现在，头部 AI 实验室的掌门人决定自己交一份答卷。Google DeepMind 首席执行官 Demis Hassabis 在题为《前沿 AI 框架与新时代的黎明》的文章中提出，应该建立一个由美国主导的独立标准机构，专门给前沿模型把关，而且最好在今年年底前就跑起来。

仿照金融圈搞「自我监管」

Hassabis 给出的方案，核心是参照美国金融业监管局 FINRA 的模式。换句话说，它不是像 FDA 那样由政府直接派驻官僚设立的新衙门，而是一个由 AI 行业出资、但保持独立运作的自律组织。

白宫 AI 顾问兼 a16z 合伙人 Sriram Krishnan 前不久才公开表示，行政部门绝对不会搞一个「AI 版 FDA」。Hassabis 选在这个时候抛出 FINRA 模式，明显是在顺应这种政治风向，试图找一条政府能接受、业界也不至于彻底反弹的折中路线。

按照他的规划，这个机构将由业内独立技术专家和开源社区代表组成，日常也可以把具体的测试任务外包给专门的安全评估团队。监管认定的标准取决于模型的能力边界，而不是开发者的地理位置或接入方式，主要防范欺骗性行为、生物武器制造以及恶意黑客技能。

具体跑起来分为两步。一开始，前沿实验室在模型发布前 30 天，自愿把模型交过去接受测试。一旦这套评估流程被证明扎实有效，就会迅速推进正式立法，所有前沿模型必须先通过测试，拿到合格证才能在美国市场上线部署。发布之后出现严重漏洞，实验室也得配合这个机构共同修补。

更惹人注目的是刹车机制。Hassabis 提出，如果测试判定某个模型风险过高，该机构有权协调整个行业集体放慢发布节奏。

留给行业的时间不多了

这位刚刚斩获 2024 年诺贝尔化学奖的学者兼创业者，最近几个月一直在台下密集游说。据 Axios 报道，他已经向特朗普政府、其他头部 AI 实验室以及欧洲官员做了吹风。Hassabis 透露，从特朗普政府那边听到的反馈相当正面。

催促他急于推进行动的原因是对 AGI 进展的紧迫感。Hassabis 直言，人类距离通用人工智能可能只剩短短几年，大家现在其实正站在奇点的山脚下。他在接受采访时还补充了一个更具体的期限：开源模型的能力可能在 18 个月内就会跨进危险地带。

上个月，Hassabis 才刚刚联名签署了针对 AI 辅助生物武器的防护呼吁，Jack Clark、Eric Schmidt 等业内大佬也在要求全球领导人重视 AI 带来的经济冲击。大家心里其实都明白，纯粹的放任自流已经很难维持下去了。

为什么重要

对于普通的独立开发者或中小团队来说，这个机构眼下可能不会直接管到你头上。规则针对的是最头部的超大规模前沿模型，你的调用成本和日常开发短期内不会暴涨。但如果开源能力在一年半内被纳入所谓危险红线，未来开源社区获取前沿基础权重的门槛，很可能会被这套流程大幅抬高。

对整个行业而言，这件事标志着监管的主导权争夺已经彻底白热化。此前政府那种拍脑袋式的临时禁令，已经让各大实验室心惊胆战。Hassabis 这步棋走得非常聪明，与其等着外行的政客制定粗暴的规矩，不如抢在前面自己写好游戏规则，把裁判席的大部分位子留给懂技术的内行。

但这套设计看起来也有显而易见的隐患。一个由头部科技巨头出资维系的自律机构，真的能做到对外宣称的绝对独立吗。如果协调集体减速的权力掌握在少数几家大厂手里，这种机制很容易在不知不觉中演变成巨头构筑行业壁垒、阻击后来者的防空洞。

我们认为，在完全无序的临时行政干预和过度严苛的政府准入之间，FINRA 式的行业自律确实是现阶段最具可行性的一张牌。但要想让外界信服，评测指标必须绝对公开透明，否则它很快就会变成另一个由科技巨头自己坐庄的利益闭门会。