Google DeepMind 開源 Gemma Scope 2:給 Gemma 3 裝上「顯微鏡」排查越獄與幻覺
Google DeepMind 開源模型可解釋性工具套件 Gemma Scope 2,全面覆蓋 Gemma 3 從 270M 到 27B 的全系列模型。它結合稀疏自編碼器與轉碼器,幫助研究人員看清模型內部計算過程,以此深入分析越獄、幻覺和思維鏈忠實度等安全隱患。
Google DeepMind 開源模型可解釋性工具套件 Gemma Scope 2,全面覆蓋 Gemma 3 從 270M 到 27B 的全系列模型。它結合稀疏自編碼器與轉碼器,幫助研究人員看清模型內部計算過程,以此深入分析越獄、幻覺和思維鏈忠實度等安全隱患。