ISTA-DASLab 開源 DeepSeek-V4.1 量化版:12GB 視訊記憶體跑 763B 大模型
ISTA-DASLab 開源 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF 模型。團隊結合非均勻量化演算法將 763B MoE 模型最低壓縮至 1.75 bpw,搭配 Strata 引擎可在 12GB 顯示卡執行。最值得關注的是 2.00 bpw 版本效能完全追平原模型,大幅拉低超大模型本地部署門檻。
ISTA-DASLab 開源 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF 模型。團隊結合非均勻量化演算法將 763B MoE 模型最低壓縮至 1.75 bpw,搭配 Strata 引擎可在 12GB 顯示卡執行。最值得關注的是 2.00 bpw 版本效能完全追平原模型,大幅拉低超大模型本地部署門檻。