跳到正文
IFAI

Gemma 4

產品7 則新聞

  1. 開源專案傳播指數 52

    Google 開源 EmbeddingGemma 2:7.4 億引數把全模態檢索塞進手機

    Google 釋出開源多模態嵌入模型 EmbeddingGemma 2。該模型僅 7.4 億引數,採用 Apache 2.0 協議,能將文本、程式碼、影像、音訊和影片對映進統一向量空間。在 Pixel 11 Pro 上執行全模態僅需 567MB 記憶體,方便開發者直接在本地做完全離線的跨模態搜尋與 RAG。

  2. 開源專案傳播指數 49

    Google 釋出 DiffusionGemma:改用文本擴散,生成提速 4 倍

    Google 開源實驗模型 DiffusionGemma。它摒棄逐字生成,改用文本擴散一次並行輸出 256 個 token,在 GPU 上推理提速最高 4 倍,單張 H100 每秒超 1000 token。該模型為 26B MoE 架構,量化後可塞進 18GB 視訊記憶體,但輸出質量略遜於標準 Gemma 4。

  3. 開源專案傳播指數 49

    Google 為 Gemma 4 推出 MTP 草稿模型:推理最高提速 3 倍

    Google 為 Gemma 4 系列模型推出多 Token 預測(MTP)草稿模型。該方案採用推測解碼技術,由輕量草稿模型先行預測多個 Token,再由大模型並行驗證,在保證質量零損耗的同時實現最高 3 倍推理加速。草稿模型已按 Apache 2.0 開源,支援 vLLM 與 Ollama。