PrismML 发布 1-bit 模型 Bonsai 27B：首个塞进手机的 27B 多模态大模型
PrismML 发布多模态模型 Bonsai 27B，提供 1-bit 和 1.58-bit 两个版本并以 Apache 2.0 开源。1-bit 版本内存占用仅 3.9GB，比 FP16 缩小约 14 倍，可在 iPhone 17 Pro 上跑出每秒 11 token。这意味着原本依赖云端的 27B 级推理与代码能力，现在能脱网在手机本地跑。
PrismML 发布多模态模型 Bonsai 27B，提供 1-bit 和 1.58-bit 两个版本并以 Apache 2.0 开源。1-bit 版本内存占用仅 3.9GB，比 FP16 缩小约 14 倍，可在 iPhone 17 Pro 上跑出每秒 11 token。这意味着原本依赖云端的 27B 级推理与代码能力，现在能脱网在手机本地跑。