Google DeepMind 开源 Gemma Scope 2:给 Gemma 3 装上「显微镜」排查越狱与幻觉
Google DeepMind 开源模型可解释性工具套件 Gemma Scope 2,全面覆盖 Gemma 3 从 270M 到 27B 的全系列模型。它结合稀疏自编码器与转码器,帮助研究人员看清模型内部计算过程,以此深入分析越狱、幻觉和思维链忠实度等安全隐患。
Google DeepMind 开源模型可解释性工具套件 Gemma Scope 2,全面覆盖 Gemma 3 从 270M 到 27B 的全系列模型。它结合稀疏自编码器与转码器,帮助研究人员看清模型内部计算过程,以此深入分析越狱、幻觉和思维链忠实度等安全隐患。