跳到正文
IFAI

Gemma 4

产品7 条新闻

  1. 开源项目传播指数 49

    Google 为 Gemma 4 推出 MTP 草稿模型:推理最高提速 3 倍

    Google 为 Gemma 4 系列模型推出多 Token 预测(MTP)草稿模型。该方案采用推测解码技术,由轻量草稿模型先行预测多个 Token,再由大模型并行验证,在保证质量零损耗的同时实现最高 3 倍推理加速。草稿模型已按 Apache 2.0 开源,支持 vLLM 与 Ollama。