Google DeepMind 開源 Gemma Scope 2：給 Gemma 3 裝上「顯微鏡」排查越獄與幻覺

Gemma Scope 2 是一套給大模型做「腦部掃描」的開源可解釋性工具箱，能幫研究人員直接看清 Gemma 3 內部的決策過程與演算法特徵。

它全面覆蓋了 Gemma 3 從 270M 到 27B 的全尺寸模型。按照 DeepMind 的說法，這是迄今為止 AI 實驗室開源的最大規模可解釋性工具，訓練總引數量超過 1 萬億，儲存了約 110 PB 的資料。

它能做什麼

大模型雖然推理能力出眾，但內部決策一直像個黑盒。遇到異常輸出時，開發者往往很難斷定問題到底出在哪一環。

Gemma Scope 2 就像給整個模型裝上了顯微鏡。通過觀察內部神經元和特徵的啟用，你可以排查越獄攻擊的滲透路徑、定位幻覺的根源、檢測模型是否在盲目迎合使用者，甚至檢查模型表面說出來的思維鏈和內部真實狀態是否一致。

這套工具還特別為 Gemma 3 的對話微調版本準備了專屬分析元件，用來專門研究拒答機制與多步驟推理的忠實度。

關鍵機制與怎麼做到的

這套工具在 Gemma 3 的每一層都配置了稀疏自編碼器與轉碼器。它們的作用是把原本交織在一起的模型內部表示，拆解成人類能看懂的概念特徵。

為了看清跨層分佈的複雜多步計算，DeepMind 引入了跨層轉碼器和跳躍轉碼器，讓追蹤長程推理路徑變得更簡單。

訓練方法上也做了升級。團隊採用了套娃訓練技術，讓自編碼器提煉出更清晰、更有用的概念，解決了初代 Gemma Scope 遺留的一些技術缺陷。

想體驗的話，Neuronpedia 已經上線了 Gemma Scope 2 的互動式網頁 demo，不用自己配環境就能直接檢視模型神經元的啟用情況。

為什麼重要

做大模型機理研究和 AI 安全審計的人，最缺的就是大引數模型的內部探針。過去很多前沿可解釋性研究只能在幾千萬引數的小玩具上做，根本看不到大模型獨有的湧現行為。

DeepMind 這次直接把覆蓋到 27B 模型的全套工具端了出來，相當於把原本只有頭部大廠才能負擔的百 PB 級研究基礎設施直接送給了社群，大幅降低了安全審計與紅隊研究的門檻。

不過，給模型做全面切片分析需要面對海量的特徵維度，從海量概念中篩出真正引發安全問題的特徵依然需要大量人工驗證。但無論如何，能讓人看清大模型到底在「想」什麼，已經是邁向安全可控的關鍵一步。