ISTA-DASLab 開源 DeepSeek-V4.1 量化版：12GB 視訊記憶體跑 763B 大模型
ISTA-DASLab 開源 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF 模型。團隊結合非均勻量化演算法將 763B MoE 模型最低壓縮至 1.75 bpw，搭配 Strata 引擎可在 12GB 顯示卡執行。最值得關注的是 2.00 bpw 版本效能完全追平原模型，大幅拉低超大模型本地部署門檻。
Strata
Strata 開源本地推理引擎：12GB 視訊記憶體就能跑千億引數模型
開源本地推理引擎 Strata 正式釋出。它通過顯示卡視訊記憶體、記憶體與固態硬碟協同分層排程，讓 12GB 視訊記憶體的普通電腦也能本地跑動 125B 的 Qwen3.8-Flash-Next 等大模型，並提供相容 OpenAI 的本地介面。這意味著消費級硬體本地部署大模型的門檻被進一步打了下來。