DeepSeek 上线 V3.1:一个模型切换思考与快答,参数 671B
DeepSeek 在 Hugging Face 发布 DeepSeek-V3.1。新模型总参数 671B、激活 37B,最大看点是支持混合思考模式,改动模板就能在思考与普通回答间切换。它的工具调用与 Agent 能力显著提升,且答题质量比肩 R1-0528 但速度更快。

DeepSeek-V3.1 是一个同时支持思考推理与常规快答的开源大模型。它拥有 671B 总参数、37B 激活参数,原生支持 128K 上下文。开发者现在就可以在 Hugging Face 和 ModelScope 上下载它的开源权重。
它能做什么
以往要想兼顾深度推理和日常对话,往往得在后台同时跑两个模型。DeepSeek-V3.1 把这两件事合二为一,只要改动聊天模板,就能在思考模式与非思考模式之间自由切换。
在思考模式下,它的回答质量完全能对标此前的 DeepSeek-R1-0528,但生成速度明显更快。
这次升级还大幅增强了 Agent 与工具调用能力。它在 SWE 和 Terminal-Bench 等基准测试上的表现更好,应付复杂的多步搜索和终端任务更加稳当。
在官方 API 侧,非思考模式对应 deepseek-chat,思考模式对应 deepseek-reasoner,两边都拉满了 128K 上下文。接口不仅兼容了 Anthropic API 格式,还在测试版中加入了严格函数调用(Strict Function Calling)支持。
怎么跑起来
这个双模式能力是怎么来的?核心在于后训练与两阶段长上下文扩展。V3.1 在基础模型上累计追加了 840B tokens 的长文本预训练。
其中 32K 阶段的训练数据扩充了 10 倍,达到 630B tokens;128K 阶段则增加了 3.3 倍,达到 209B tokens。模型权重和激活值还采用了 UE8M0 FP8 数据格式,以便兼容微缩放硬件。
如果你要在本地部署,官方给出了 Transformers、vLLM 和 SGLang 的运行配置。
以 vLLM 为例,安装之后直接输入服务指令就能拉起 OpenAI 兼容接口;SGLang 也有现成的 Docker 镜像可用。不过 671B 的 MoE 规模摆在那里,即使只激活 37B,私有化部署依然需要多张专业 GPU 显卡。
不想折腾算力的读者,可以直接去 chat.deepseek.com 体验网页版,在界面上点一下「DeepThink」按钮就能切换思考与快答。需要提醒的是,官方现行价格与非高峰折扣将持续到 2025 年 9 月 5 日 16:00 UTC,之后会启用新的计费方案。
为什么重要
把深度思考和快速响应塞进同一个权重里,省掉了开发者和企业部署两套模型的资源浪费。通过改模板就能随时按需切换推理强度,在工程落地里非常实用。
对于做智能体和代码工具的团队来说,它补齐了工具调用与长文本短板,甚至兼容了 Anthropic 格式,迁移成本被压得很低。虽然 671B 的体积对个人本地显卡极不友好,但无论是调 API 还是私有集群,它都是目前开源社区里综合战斗力极其顶尖的底座。
来源 (3)
- @deepsseek(在新标签页打开)原文x.com
- huggingface.co(在新标签页打开)报道huggingface.co
- deepseek.com(在新标签页打开)报道deepseek.com