IBM 开源 Granite 4 系列:混合 Mamba 架构,显存消耗降至六分之一
IBM 于周四开源 Granite 4 语言模型系列。该系列包含 30 亿至 320 亿参数的 4 款模型,将 Transformer 与 Mamba 状态空间模型结合。官方测试显示 Granite-4.0-H-Tiny 显存占用仅为前代的六分之一,大幅降低长文本推理成本。
IBM 于周四开源 Granite 4 语言模型系列。该系列包含 30 亿至 320 亿参数的 4 款模型,将 Transformer 与 Mamba 状态空间模型结合。官方测试显示 Granite-4.0-H-Tiny 显存占用仅为前代的六分之一,大幅降低长文本推理成本。