ISTA-DASLab 開源 DeepSeek-V4.1 量化版:12GB 視訊記憶體跑 763B 大模型
ISTA-DASLab 開源 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF 模型。團隊結合非均勻量化演算法將 763B MoE 模型最低壓縮至 1.75 bpw,搭配 Strata 引擎可在 12GB 顯示卡執行。最值得關注的是 2.00 bpw 版本效能完全追平原模型,大幅拉低超大模型本地部署門檻。
ISTA-DASLab 開源 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF 模型。團隊結合非均勻量化演算法將 763B MoE 模型最低壓縮至 1.75 bpw,搭配 Strata 引擎可在 12GB 顯示卡執行。最值得關注的是 2.00 bpw 版本效能完全追平原模型,大幅拉低超大模型本地部署門檻。
DeepSeek 釋出並開源 DeepSeek-V4.1-Flash-1017 程式設計模型。它通過帶自反饋的強化學習支援端到端專案構建,在任務完成速度與輸出精簡度上均有提升。此外,官方還開放了自研 Search 與 Fetch API,月底前限時免費。
開源本地推理引擎 Strata 正式釋出。它通過顯示卡視訊記憶體、記憶體與固態硬碟協同分層排程,讓 12GB 視訊記憶體的普通電腦也能本地跑動 125B 的 Qwen3.8-Flash-Next 等大模型,並提供相容 OpenAI 的本地介面。這意味著消費級硬體本地部署大模型的門檻被進一步打了下來。