Google 釋出開源模型 Gemma 3：支援多模態與 128K 上下文

Gemma 3 是 Google 最新推出的開源權重模型家族，提供 1B、4B、12B 和 27B 四種引數尺寸。除了最小的 1B 為純文本模型外，其餘三個版本均支援圖文多模態輸入，上下文視窗統一拉昇至 128k，並支援超過 140 種語言。

它能做什麼

你可以用 Gemma 3 來做長文件總結、圖表與影像分析，以及多語言問答。小巧的 1B 版本上下文長度從上一代的 8k 增加到 32k，而 4B、12B 和 27B 版本則直接支援 128k 上下文。

所有尺寸都同步放出了預訓練基座版和指令微調版。雖然具備多模態能力，但在實際部署中，如果你只需要處理純文本，可以直接不載入影像編碼器，按普通大語言模型執行，能省下不少視訊記憶體。

效能上的跨度相當明顯。官方評測資料顯示，4B 指令微調版的跑分超過了上一代的 Gemma 2 27B，而 27B 指令微調版在多個基準測試中超越了閉源的 Gemini 1.5 Pro。

怎麼做到的

為了把上下文擴充套件到 128k 並控制算力成本，開發團隊沒有全程從頭硬訓，而是在預訓練大部分階段採用 32k 序列，只在預訓練尾聲才將 4B、12B 和 27B 擴充套件至 128k。位置編碼 RoPE 基頻從上一代的 10k 提高到 1M，並放大了 8 倍。

在視訊記憶體管理上，模型優化了滑動視窗交替注意力機制，將結構調整為 5 層區域性注意力對應 1 層全域性注意力，滑動視窗縮小至 1024 token，大幅降低了 KV 快取的記憶體佔用。

視覺方面，模型採用 SigLIP 編碼器，輸入解析度固定為 896x896。遇到高解析度或非正方形圖片時，演算法會自適應裁剪細節並放大編碼。影像 token 享有完整的雙向注意力，文本 token 則保持單向因果注意力。多語言預訓練資料量相比前代翻倍，並換用了 Gemini 2.0 的分詞器。

目前全部模型權重已在 Hugging Face 開源上線，官方也提供了可在瀏覽器直接體驗的試用空間。

為什麼重要

對於想在本地或端側跑大模型的開發者來說，Gemma 3 很值得立刻下載嘗試。4B 尺寸能跑贏上一代 27B，意味著普通筆記本或單張消費級顯示卡就能勝任高質量的圖文分析任務，部署門檻大大降低。

而在大尺寸端，27B 模型在效能上壓過閉源的 Gemini 1.5 Pro，進一步證明了開源權重在長上下文與多模態領域的競爭力。Google 持續把前沿能力下放到開源社群，無疑會讓其他開源陣營的對手感受到不小的壓力。