Google 发布 DiffusionGemma:改用文本扩散,生成提速 4 倍
Google 开源实验模型 DiffusionGemma。它摒弃逐字生成,改用文本扩散一次并行输出 256 个 token,在 GPU 上推理提速最高 4 倍,单张 H100 每秒超 1000 token。该模型为 26B MoE 架构,量化后可塞进 18GB 显存,但输出质量略逊于标准 Gemma 4。
Google 开源实验模型 DiffusionGemma。它摒弃逐字生成,改用文本扩散一次并行输出 256 个 token,在 GPU 上推理提速最高 4 倍,单张 H100 每秒超 1000 token。该模型为 26B MoE 架构,量化后可塞进 18GB 显存,但输出质量略逊于标准 Gemma 4。