prism-ml 发布 Bonsai-2:用三值权重将 27B 模型压到 6GB
prism-ml 推出 Bonsai-2 压缩模型集合。团队采用只保留 -1、0、+1 的三值权重技术,将 Qwen 3.8 27B 大小缩减 9 倍以上至 5.9GB,且保留了接近完整的性能,让中端消费级显卡和 Mac 也能跑大模型。
prism-ml 推出 Bonsai-2 压缩模型集合。团队采用只保留 -1、0、+1 的三值权重技术,将 Qwen 3.8 27B 大小缩减 9 倍以上至 5.9GB,且保留了接近完整的性能,让中端消费级显卡和 Mac 也能跑大模型。