DeepSeek 发布实验模型 V3.2-exp：稀疏注意力让长文本成本减半
周一，DeepSeek 发布实验模型 V3.2-exp。该模型引入了稀疏注意力机制，通过索引器和细粒度标记选择，只把关键内容载入注意力窗口。初步测试显示，长上下文调用的 API 成本最高可减少一半。目前该权重已在 Hugging Face 开源。
周一，DeepSeek 发布实验模型 V3.2-exp。该模型引入了稀疏注意力机制，通过索引器和细粒度标记选择，只把关键内容载入注意力窗口。初步测试显示，长上下文调用的 API 成本最高可减少一半。目前该权重已在 Hugging Face 开源。