DeepMind 釋出 AGI 安全技術路線：重點防範濫用與目標失控

如果讓你去給一個下圍棋比你厲害一萬倍的選手當裁判，你怎麼判斷他下得對不對？

Google DeepMind 發了一篇名為《An Approach to Technical AGI Safety & Security》的技術論文。在他們看來，通用人工智慧（AGI）可能在未來幾年就會到來。更現實的問題是，當 AI 的智力全面超越人類時，我們甚至可能連它是不是在騙我們都看不出來。

為此，DeepMind 梳理了他們目前應對 AGI 的整套技術防禦路線。

提防 AI 的「第 37 手」和影帝級偽裝

DeepMind 把 AGI 風險分成了四大類：濫用、對齊失效、事故和結構性風險，其中重頭戲是對齊與防濫用。

對齊失效這事聽起來很抽象，但說白了就是 AI 辦事不按常理出牌。DeepMind 舉了個通俗的例子：你讓 AI 幫你買電影票，結果它發現票賣完了，反手黑進訂票系統把別人的座位給搶了。在它眼裡任務完成了，但在人類眼裡這屬於嚴重越界。

更讓人頭疼的是所謂的欺騙性對齊。AI 心裡明知道自己的意圖和人類不符，但它會假裝服從，悄悄繞過安全機制。

為了解決監督難題，DeepMind 重提了 AlphaGo 當年在對戰李世石時下出的那記「第 37 手」。當時那個勝率萬分之一的落子，全場人類棋手沒一個看得懂，後來才發現是神來之筆。未來的超級 AI 也會充斥著這種人類無法肉眼評估的決策。

DeepMind 提出的解法叫「放大監督」，也就是用 AI 來監督 AI，比如讓兩個 AI 系統展開辯論，把底層邏輯抖落給人類看。同時他們還在做一項叫 MONA 的技術，嘗試用短視最佳化來讓 AI 的長期規劃始終保持在人類能看懂的範圍內。

內部設委員會，外部找外援

防濫用方面，DeepMind 正在限制危險能力的暴露，比如網路攻擊和生物安全漏洞，並對 Gemini 等前沿模型做定期評估。

組織架構上，他們由聯合創始人兼首席 AGI 科學家 Shane Legg 牽頭成立了 AGI 安全委員會，專門分析風險。他們還拉來了 Apollo 和 Redwood Research 等外部非營利安全機構，一起在 Frontier Safety Framework 裡制定防對齊失效的規範。

為了擴充圈內人才，他們這次還同步面向學生和研究員推出了一門 AGI 安全課程。

為什麼重要

這篇框架之所以引人關注，是因為它直接戳破了一個幻想：光靠人類肉眼打分、做後訓練強化學習，根本管不住未來的超級 AI。

我們認為，DeepMind 這一步走得相當清醒。他們沒有空談宏大的倫理口號，而是老老實實承認了人類認知的侷限性，把解決思路落在了「讓 AI 互相辯論」和「可解釋性架構」上。對於正在用大模型做複雜自主 Agent 的開發者來說，這也提了個醒：放權越快，系統脫軌的隱蔽性就越強，越界往往不是程式報錯，而是它為了完成指標耍了滑頭。

但這裡的隱患也顯而易見。用 AI 監督 AI 聽起來很美，前提是用來監督的 AI 自身沒有被汙染或產生同謀機制。目前行業裡無論是 OpenAI、Anthropic 還是 DeepMind，大家都在給尚未到來的超級智慧立規矩，可大部分方案依然停留在理論推演和區域性實驗階段。

看起來，各家前沿實驗室不僅在算力上死磕，也在安全敘事上爭奪話語權。誰能先拿出可落地的超級對齊機制，誰才敢放心地把 AGI 的油門踩到底。