DeepSeek 上線 V3.1:一個模型切換思考與快答,引數 671B
DeepSeek 在 Hugging Face 釋出 DeepSeek-V3.1。新模型總引數 671B、啟用 37B,最大看點是支援混合思考模式,改動模板就能在思考與普通回答間切換。它的工具呼叫與 Agent 能力顯著提升,且答題質量比肩 R1-0528 但速度更快。

DeepSeek-V3.1 是一個同時支援思考推理與常規快答的開源大模型。它擁有 671B 總引數、37B 啟用引數,原生支援 128K 上下文。開發者現在就可以在 Hugging Face 和 ModelScope 上下載它的開源權重。
它能做什麼
以往要想兼顧深度推理和日常對話,往往得在後臺同時跑兩個模型。DeepSeek-V3.1 把這兩件事合二為一,只要改動聊天模板,就能在思考模式與非思考模式之間自由切換。
在思考模式下,它的回答質量完全能對標此前的 DeepSeek-R1-0528,但生成速度明顯更快。
這次升級還大幅增強了 Agent 與工具呼叫能力。它在 SWE 和 Terminal-Bench 等基準測試上的表現更好,應付複雜的多步搜尋和終端任務更加穩當。
在官方 API 側,非思考模式對應 deepseek-chat,思考模式對應 deepseek-reasoner,兩邊都拉滿了 128K 上下文。介面不僅相容了 Anthropic API 格式,還在測試版中加入了嚴格函式呼叫(Strict Function Calling)支援。
怎麼跑起來
這個雙模式能力是怎麼來的?核心在於後訓練與兩階段長上下文擴充套件。V3.1 在基礎模型上累計追加了 840B tokens 的長文本預訓練。
其中 32K 階段的訓練資料擴充了 10 倍,達到 630B tokens;128K 階段則增加了 3.3 倍,達到 209B tokens。模型權重和啟用值還採用了 UE8M0 FP8 資料格式,以便相容微縮放硬體。
如果你要在本地部署,官方給出了 Transformers、vLLM 和 SGLang 的執行配置。
以 vLLM 為例,安裝之後直接輸入服務指令就能拉起 OpenAI 相容介面;SGLang 也有現成的 Docker 映象可用。不過 671B 的 MoE 規模擺在那裡,即使只啟用 37B,私有化部署依然需要多張專業 GPU 顯示卡。
不想折騰算力的讀者,可以直接去 chat.deepseek.com 體驗網頁版,在介面上點一下「DeepThink」按鈕就能切換思考與快答。需要提醒的是,官方現行價格與非高峰折扣將持續到 2025 年 9 月 5 日 16:00 UTC,之後會啟用新的計費方案。
為什麼重要
把深度思考和快速響應塞進同一個權重裡,省掉了開發者和企業部署兩套模型的資源浪費。通過改模板就能隨時按需切換推理強度,在工程落地裡非常實用。
對於做智慧體和程式碼工具的團隊來說,它補齊了工具呼叫與長文本短板,甚至相容了 Anthropic 格式,遷移成本被壓得很低。雖然 671B 的體積對個人本地顯示卡極不友好,但無論是調 API 還是私有叢集,它都是目前開源社群裡綜合戰鬥力極其頂尖的底座。
來源 (3)
- @deepsseek(在新分頁開啟)原文x.com
- huggingface.co(在新分頁開啟)報導huggingface.co
- deepseek.com(在新分頁開啟)報導deepseek.com