Google DeepMind 开源 Gemma Scope 2：给 Gemma 3 装上「显微镜」排查越狱与幻觉

Gemma Scope 2 是一套给大模型做「脑部扫描」的开源可解释性工具箱，能帮研究人员直接看清 Gemma 3 内部的决策过程与算法特征。

它全面覆盖了 Gemma 3 从 270M 到 27B 的全尺寸模型。按照 DeepMind 的说法，这是迄今为止 AI 实验室开源的最大规模可解释性工具，训练总参数量超过 1 万亿，存储了约 110 PB 的数据。

它能做什么

大模型虽然推理能力出众，但内部决策一直像个黑盒。遇到异常输出时，开发者往往很难断定问题到底出在哪一环。

Gemma Scope 2 就像给整个模型装上了显微镜。通过观察内部神经元和特征的激活，你可以排查越狱攻击的渗透路径、定位幻觉的根源、检测模型是否在盲目迎合用户，甚至检查模型表面说出来的思维链和内部真实状态是否一致。

这套工具还特别为 Gemma 3 的对话微调版本准备了专属分析组件，用来专门研究拒答机制与多步骤推理的忠实度。

关键机制与怎么做到的

这套工具在 Gemma 3 的每一层都配置了稀疏自编码器与转码器。它们的作用是把原本交织在一起的模型内部表示，拆解成人类能看懂的概念特征。

为了看清跨层分布的复杂多步计算，DeepMind 引入了跨层转码器和跳跃转码器，让追踪长程推理路径变得更简单。

训练方法上也做了升级。团队采用了套娃训练技术，让自编码器提炼出更清晰、更有用的概念，解决了初代 Gemma Scope 遗留的一些技术缺陷。

想体验的话，Neuronpedia 已经上线了 Gemma Scope 2 的交互式网页 demo，不用自己配环境就能直接查看模型神经元的激活情况。

为什么重要

做大模型机理研究和 AI 安全审计的人，最缺的就是大参数模型的内部探针。过去很多前沿可解释性研究只能在几千万参数的小玩具上做，根本看不到大模型独有的涌现行为。

DeepMind 这次直接把覆盖到 27B 模型的全套工具端了出来，相当于把原本只有头部大厂才能负担的百 PB 级研究基础设施直接送给了社区，大幅降低了安全审计与红队研究的门槛。

不过，给模型做全面切片分析需要面对海量的特征维度，从海量概念中筛出真正引发安全问题的特征依然需要大量人工验证。但无论如何，能让人看清大模型到底在「想」什么，已经是迈向安全可控的关键一步。