DeepSeek 发布实验模型 V3.2-exp：稀疏注意力让长文本成本减半

DeepSeek V3.2-exp 是一个主打低推理成本的实验性开源模型，专门用来解决跑长文本时服务器负载过重、费用昂贵的问题。

如果你经常处理超长文档或进行多轮代码分析，长上下文带来的算力开销往往让人吃不消。这个模型的目标很直接：在处理海量上下文的同时，把推理开销大幅打下来。

怎么做到的

模型的关键机制被称为「稀疏注意力」（DeepSeek Sparse Attention）。传统模型在长文本下要把所有 token 都塞进注意力层计算，而 V3.2-exp 换了个聪明的两步走策略。

首先，系统会通过一个叫「闪电索引器」（lightning indexer）的模块，快速从庞大的上下文窗口中定位出最重要的几个片段。

接着，一个细粒度标记选择系统（fine-grained token selection system）会介入，只从这些片段里挑出真正关键的 token，塞进容量有限的注意力窗口里计算。

这样一来，模型既不需要对整篇长文进行全量密集运算，又能保留关键上下文信息，让服务器负载显著下降。

降本效果与去哪试

根据 DeepSeek 的初步测试，在长上下文操作中，单次 API 调用的成本最高可以减少一半。

目前该模型处于实验阶段，官方表示还需要更多测试来给出更全面的性能评估。不过因为已经完全放出了权重，社区很快就能验证论文里的测试数据。

想要尝试的开发者可以直接去 Hugging Face 下载开放权重，相关的学术论文也已经开源在 GitHub 上，包含详细的技术架构示意图。

为什么重要

对经常调用长上下文的开发者和团队来说，V3.2-exp 非常值得关注。模型推理的服务器账单往往比训练更磨人，能把长文本调用成本直接砍掉一半，直接决定了某些长文本功能能不能算得过来账。

我们认为，DeepSeek 这次没有在模型规模上硬卷，而是把手术刀对准了底层 Transformer 的计算效率，这步棋走得非常务实。它不仅给开源社区提供了一套可复现的稀疏注意力样本，也会促使主流商业模型加速优化长文本的推理定价。