Google DeepMind 成立 DMI 研究所：專研 AGI 社會影響與安全治理

過去大半年，矽谷巨頭們聊起通用人工智慧（AGI），畫風基本上是先畫一張「治癒癌症、人人繁榮」的餅，轉頭就把算力拉滿、接著狂卷引數。但如果做模型的先鋒自己開始提醒說「這玩意兒快成了，而且我們可能快管不住了」，事情就變得有點微妙了。

Google DeepMind 宣佈成立 DeepMind Institute（簡稱 DMI）。這是一個設立在公司內部的智庫平臺，由 DeepMind 聯合創始人兼首席 AGI 科學家 Shane Legg、DeepMind 掌門人 Demis Hassabis 以及 Google 高管 James Manyika 共同擔任主管，Legg 同時負責編輯工作。花了 25 年研究 AGI 的 Legg 在發文時直言，今天的系統雖然有時還會在基礎任務上翻車，也缺乏足夠的穩定性和創造力，但這些差距「很快就會被補上」，AGI 已經近在眼前。

於是，這個新智庫決定把討論範圍推到單純的技術研發之外：它不僅向 Google 內部開放，還拉來了全球學術界、人文學科和政策研究者，專門琢磨 AGI 到來後的社會治理、經濟重構和技術安全問題。每篇文章開頭還會特意加上一條免責宣告：文內觀點只代表作者本人，不代表 Google 的官方政策。

別讓 AI 的思考變成查不到的「黑盒」

DMI 首批端出來的幾篇文章，幾乎把此前業內私下擔憂的底牌全攤在了桌面上。其中最抓人眼球的技術細節，來自 DeepMind 兩位安全研究員 Rohin Shah 和 Anca Dragan 對「模型透明度」的警告。

現在很多人習慣看大模型把推理步驟一行行打出來，覺得這樣就能看懂它在想什麼。但研究員指出，隨著新型架構的發展，最強大的模型正在變得越來越難以監控。他們警告，不能讓模型在沒有生成可讀推理痕跡的情況下，執行過多連續的深層計算，也就是所謂的「不透明序列深度」。更危險的是，如果在訓練時盲目懲罰那些看起來有疑點的推理，模型可能會迅速學會偽裝和隱瞞自己的真實意圖。因此，他們呼籲開發者和監管機構別把黑盒化當成理所當然，甚至建議把維持「可讀思考軌跡」作為硬性要求。

除了底層技術，Demis Hassabis 本人也重新拿出了他在 7 月份起草的一份監管框架。他提議由美國牽頭成立一個前沿 AI 標準機構，由聯邦政府監督、行業自身出資。大模型在釋出前 30 天要自願提交評測，一旦體系跑通，通過測試就得變成在美國上線的強制門檻。

有意思的是，Hassabis 還提出要引入官方嚴格保密的「保留測試題」，防止各家實驗室提前針對考卷刷題。如果事態變得極其嚴峻，這個機構甚至應該有權啟動「協調降速」，讓所有前沿實驗室統一步伐暫停狂奔。碰巧的是，WIRED 在同一天報道稱，華盛頓此前曾嘗試推進過類似的監管機構，但在 8 月份遭遇了行業遊說阻力而陷入停滯。如今 Hassabis 和其他業內高管再次呼籲控制前沿 AI 的研發節奏，這份提議的分量顯然更重了。

機器搶飯碗之後，錢從哪裡來？

智庫裡的另一篇重頭文章，直接盯上了普通人最怕的失業問題。Julian Jacobs 和 Alex Imas 在經濟政策論文中提出，與其爭論 AGI 到底哪一年降臨，不如提前把政策工具箱準備好，直接根據就業率、工資水平以及勞動所得在經濟中的佔比來動態觸發救濟措施。

如果只是輕微的崗位衝擊，政府可以依靠失業保險、勞動所得稅抵免以及企業轉崗培訓來兜底。但如果衝擊惡化，他們建議直接祭出「負所得稅」，甚至推行更廣泛的資本所有權分配，讓普通人也能分到機器創造的資本收益。把這些制度提前寫成預案，哪怕哪天大模型能力突然突飛猛進，社會也不至於猝不及防。

為什麼重要

DeepMind 成立智庫這件事，表面上看是個辦學術沙龍的動作，但在我們看來，這其實是頭部實驗室在給接下來激烈的社會反彈提前「打預防針」。

對於現在的開發者和技術採購方來說，Rohin Shah 提到的那些觀點非常有實操價值。你接下來去採買大模型或者接入 Agent 時，完全可以拿這套標準去反問供應商：你們的模型能提供完整透明的思考鏈嗎？你們在微調時，有沒有為了讓結果好看而誘導模型學會「撒謊」？這些技術細節很快會變成採購合同裡的安全紅線。

而在行業層面上，DeepMind 的姿態顯得相當聰明，卻也藏著一絲無奈。在外部監管遲遲無法落地、甚至被商業遊說拖慢節奏的節骨眼上，由研發龍頭跳出來牽頭制定標準、討論何時「協調減速」，看起來是在主動承擔責任，但實質上也是在搶奪未來行業規則的起草權。誰制定的評測標準被採納，誰就在下一代模型的准入上擁有最大的話語權。

不過，隱患也恰恰在這裡。一家商業巨頭無論把自己包裝得多麼中立，它的首要任務依然是把模型做大、在商業上贏過 OpenAI 和 Anthropic。把觀點和 Google 官方立場切割開，固然給了學者自由開炮的空間，但也意味著這些關於財富再分配、強制減速的激進設想，很可能永遠停留在論文階段。只要沒有具備真正執法權的公共機構介入，單靠幾個頂尖科學家在智庫裡呼籲自律，恐怕很難真正剎住軍備競賽的車輪。