prism-ml 釋出 Bonsai-2:用三值權重將 27B 模型壓到 6GB
prism-ml 推出 Bonsai-2 壓縮模型集合。團隊採用只保留 -1、0、+1 的三值權重技術,將 Qwen 3.8 27B 大小縮減 9 倍以上至 5.9GB,且保留了接近完整的效能,讓中端消費級顯示卡和 Mac 也能跑大模型。
prism-ml 推出 Bonsai-2 壓縮模型集合。團隊採用只保留 -1、0、+1 的三值權重技術,將 Qwen 3.8 27B 大小縮減 9 倍以上至 5.9GB,且保留了接近完整的效能,讓中端消費級顯示卡和 Mac 也能跑大模型。