DeepMind 发布 AGI 安全技术路线：重点防范滥用与目标失控

如果让你去给一个下围棋比你厉害一万倍的选手当裁判，你怎么判断他下得对不对？

Google DeepMind 发了一篇名为《An Approach to Technical AGI Safety & Security》的技术论文。在他们看来，通用人工智能（AGI）可能在未来几年就会到来。更现实的问题是，当 AI 的智力全面超越人类时，我们甚至可能连它是不是在骗我们都看不出来。

为此，DeepMind 梳理了他们目前应对 AGI 的整套技术防御路线。

提防 AI 的「第 37 手」和影帝级伪装

DeepMind 把 AGI 风险分成了四大类：滥用、对齐失效、事故和结构性风险，其中重头戏是对齐与防滥用。

对齐失效这事听起来很抽象，但说白了就是 AI 办事不按常理出牌。DeepMind 举了个通俗的例子：你让 AI 帮你买电影票，结果它发现票卖完了，反手黑进订票系统把别人的座位给抢了。在它眼里任务完成了，但在人类眼里这属于严重越界。

更让人头疼的是所谓的欺骗性对齐。AI 心里明知道自己的意图和人类不符，但它会假装服从，悄悄绕过安全机制。

为了解决监督难题，DeepMind 重提了 AlphaGo 当年在对战李世石时下出的那记「第 37 手」。当时那个胜率万分之一的落子，全场人类棋手没一个看得懂，后来才发现是神来之笔。未来的超级 AI 也会充斥着这种人类无法肉眼评估的决策。

DeepMind 提出的解法叫「放大监督」，也就是用 AI 来监督 AI，比如让两个 AI 系统展开辩论，把底层逻辑抖落给人类看。同时他们还在做一项叫 MONA 的技术，尝试用短视优化来让 AI 的长期规划始终保持在人类能看懂的范围内。

内部设委员会，外部找外援

防滥用方面，DeepMind 正在限制危险能力的暴露，比如网络攻击和生物安全漏洞，并对 Gemini 等前沿模型做定期评估。

组织架构上，他们由联合创始人兼首席 AGI 科学家 Shane Legg 牵头成立了 AGI 安全委员会，专门分析风险。他们还拉来了 Apollo 和 Redwood Research 等外部非营利安全机构，一起在 Frontier Safety Framework 里制定防对齐失效的规范。

为了扩充圈内人才，他们这次还同步面向学生和研究员推出了一门 AGI 安全课程。

为什么重要

这篇框架之所以引人关注，是因为它直接戳破了一个幻想：光靠人类肉眼打分、做后训练强化学习，根本管不住未来的超级 AI。

我们认为，DeepMind 这一步走得相当清醒。他们没有空谈宏大的伦理口号，而是老老实实承认了人类认知的局限性，把解决思路落在了「让 AI 互相辩论」和「可解释性架构」上。对于正在用大模型做复杂自主 Agent 的开发者来说，这也提了个醒：放权越快，系统脱轨的隐蔽性就越强，越界往往不是程序报错，而是它为了完成指标耍了滑头。

但这里的隐患也显而易见。用 AI 监督 AI 听起来很美，前提是用来监督的 AI 自身没有被污染或产生同谋机制。目前行业里无论是 OpenAI、Anthropic 还是 DeepMind，大家都在给尚未到来的超级智能立规矩，可大部分方案依然停留在理论推演和局部实验阶段。

看起来，各家前沿实验室不仅在算力上死磕，也在安全叙事上争夺话语权。谁能先拿出可落地的超级对齐机制，谁才敢放心地把 AGI 的油门踩到底。