#Mishax

开源项目传播指数 68

Google 开源 Gemma Scope：用 400 多个稀疏自编码器透视大模型

Google 开源 Gemma Scope，这是一套面向 Gemma 2 2B 与 9B 的稀疏自编码器工具包，包含 400 多个自编码器和超 3000 万个学到的特征。它相当于给大模型装上显微镜，帮助研究人员拆解模型内部运作，应对幻觉、欺骗等安全风险。