Google 发布 T5Gemma 2：首个支持多模态与 128K 上下文的编码器-解码器模型

T5Gemma 2 是 Google 推出的新一代开源编码器-解码器模型家族。它基于 Gemma 3 打造，也是同类架构里第一个同时支持多模态图像理解和 128K 超长上下文的模型。

如果你在寻找适合塞进手机或边缘设备、专门用来做特定任务微调的轻量模型，它就是奔着这个场景来的。

它能做什么

T5Gemma 2 支持同时输入图像与文本，利用高效的视觉编码器完成视觉问答和多模态推理。

得益于 Gemma 3 的交替局部与全局注意力机制，它的上下文窗口直接拉到了 128K token，同时开箱支持超过 140 种语言。

在规格上，Google 提供了三种非常紧凑的尺寸。最小的 270M-270M 版本不计视觉编码器总参数量仅约 3.7 亿，中号的 1B-1B 约为 17 亿，最大的 4B-4B 约为 70 亿，内存占用极低。

在基准测试里，无论是编程、逻辑推理还是多模态能力，T5Gemma 2 的表现普遍超越了对应的解码器单向模型 Gemma 3，在长文本处理上的提升尤为明显。

架构上动了哪些刀

为了把模型做小做快，Google 没有沿用传统 T5 的老路子，而是在架构上做了两项关键精简。

首先是绑定词嵌入。模型让编码器和解码器共用同一套词嵌入参数，大幅砍掉了冗余权重，让仅有 3.7 亿参数的小版本也能塞进完整的核心能力。

其次是合并注意力层。解码器里的自注意力和交叉注意力被捏合成了一个统一的注意力层，不仅减少了参数，还降低了结构复杂度，有利于推理时的并行加速。

上手与限制

需要注意的是，Google 这次只放出了预训练权重，并没有提供开箱即用的指令微调版本。

官方展示的高分测试只经过了不带强化学习的极简微调。也就是说，它不能直接当成对话助手来聊天，必须由开发者拿回去针对具体任务做二次微调或后训练才能上线部署。

目前这些预训练检查点已经上线多个主流开源平台，开发者可以直接下载权重并接入自己的训练流程。

为什么重要

长期以来，端侧多模态几乎全被解码器单向模型垄断，但很多端侧任务如文档信息抽取、分类和视觉问答，天然更适合编码器-解码器架构。

对于移动端和嵌入式开发者来说，T5Gemma 2 提供了一个极低显存门槛的选择，让你用几亿参数就能跑起具备 128K 上下文的多模态任务。虽然需要自己动手微调，但对垂直场景落地来说，它的推理效率和结构优势非常值得一试。