Google 開源 Gemma Scope：用 400 多個稀疏自編碼器透視大模型
Google 開源 Gemma Scope，這是一套面向 Gemma 2 2B 與 9B 的稀疏自編碼器工具包，包含 400 多個自編碼器和超 3000 萬個學到的特徵。它相當於給大模型裝上顯微鏡，幫助研究人員拆解模型內部運作，應對幻覺、欺騙等安全風險。
Google 開源 Gemma Scope，這是一套面向 Gemma 2 2B 與 9B 的稀疏自編碼器工具包，包含 400 多個自編碼器和超 3000 萬個學到的特徵。它相當於給大模型裝上顯微鏡，幫助研究人員拆解模型內部運作，應對幻覺、欺騙等安全風險。