ISTA-DASLab 开源 DeepSeek-V4.1 量化版：12GB 显存跑 763B 大模型
ISTA-DASLab 开源 DeepSeek-V4.1-Flash-1017 的 GSQ-RCO 量化 GGUF 模型。团队结合非均匀量化算法将 763B MoE 模型最低压缩至 1.75 bpw，搭配 Strata 引擎可在 12GB 显卡运行。最值得关注的是 2.00 bpw 版本性能完全追平原模型，大幅拉低超大模型本地部署门槛。
llama.cpp
开源算法 RotorQuant 击败谷歌：10 倍显存压缩下预填充提速 5.3 倍
开源 KV 缓存压缩算法 RotorQuant 亮相。它利用克利福德旋转器简化了谷歌 TurboQuant 的全局矩阵运算，在提供 10 倍显存压缩的同时，将预填充速度拉高 5.3 倍、解码提速 28%。这意味着单张消费级显卡跑超长上下文大模型变得容易得多。
大语言模型的「Stable Diffusion 时刻」：笔记本也能跑 LLaMA 了
开发者 Simon Willison 发文称大模型正迎来类似 Stable Diffusion 的开源拐点。通过开源项目 llama.cpp 的 4-bit 量化技术，7B 与 13B 版本的 LLaMA 模型已能直接在 MacBook 上本地流畅运行，打破了原本需要高昂云端算力的门槛。