Deep Cogito 走出隱身：開源 Cogito v1 系列混合推理模型

Cogito v1 是一套開源的混合推理大模型，主打把類似 OpenAI「o」系列和 DeepSeek R1 的深度思考能力，直接塞進開源社群常用的輕量到中等尺寸模型裡。

這套模型覆蓋了 3B、8B、14B、32B 和 70B 五種引數規格。你可以用它當普通聊天模型獲得即時回覆，也可以切換到深度推理模式，讓它先做自我反省與推演再給出答案。

它是怎麼做到的

傳統的推理蒸餾大多是從一個更大的教師模型裡抄答案，Deep Cogito 採用的則是所謂「迭代蒸餾與放大」（IDA）機制。

簡單來說，它讓模型在生成階段呼叫更多算力，自行探索出更完善的推理鏈路。隨後系統把這些高質量的思考過程，重新蒸餾沉澱回模型自身的引數中，形成正向反饋閉環。創始人將其比作自然語言領域的 AlphaGo 自我對弈。

基座方面，這批模型基於 Meta 的 Llama 3.2、Llama 3.1、Llama 3.3 以及阿里巴巴的 Qwen2.5 微調而來。在開源協議上繼承了 Llama 社群許可證，月活不超過 7 億的產品都可以直接免費商用。

實際效果與數學上的偏科

從官方給出的基準測試來看，推理模式對通用能力的提升相當明顯。以最小的 Cogito 3B 為例，在開啟推理模式後，MMLU 得分從普通模式的 65.4% 衝到了 72.6%，ARC 得分達到 84.2%，明顯甩開了原生 Llama 3.2 3B。

8B 版本在開啟推理後，MMLU 得分達到 83.1%，ARC 達到 92.0%。70B 標準版在 MMLU 上拿到 91.7%，超過了 Llama 3.3 70B 的 85.3%，綜合跑分也壓過了 109B 的 Llama 4 Scout。

另外一個補齊的短板是原生工具呼叫。像 Cogito 3B 原生支援單工具、並行、多工具以及並行多工具呼叫，簡單呼叫準確率達到 92.8%，而原版 Llama 3.2 3B 並不支援工具呼叫。Cogito 8B 的四項呼叫準確率均超過 89%，遠高於 Llama 3.1 8B 的 35% 到 54%。

不過它在數學推理上有明顯取捨。對比同樣走推理路線的 DeepSeek R1 蒸餾版，Cogito 8B 在 MATH 基準上只拿到 60.2%，遠低於 DeepSeek R1 Distill 8B 的 80.6%。Cogito 70B 推理版在 MATH 上的 83.3%，也落後於 DeepSeek R1 的 89.0%。

去哪裡上手體驗

目前 Cogito v1 的全部權重已經在 Hugging Face 和 Ollama 上線。對於本地開發者，如果你電腦上有支援 Ollama 的顯示卡或 Apple Silicon 裝置，跑 3B 或 8B 版本幾乎沒有門檻。

不想本地部署的開發者，也可以通過 Fireworks 和 Together AI 的 API 直接接入呼叫。官方後續還計劃推出 109B、400B 和 671B 的混合專家架構（MoE）版本。

為什麼重要

如果你正在開發需要本地跑 Agent、呼叫 API 介面並具備自我核對能力的應用，Cogito v1 是個非常值得測試的選擇。它補上了小模型長期缺乏的工具呼叫和邏輯推演短板，而且 3B 到 8B 的體量非常適合端側部署。

但它目前更像一個長於通用常識和反思、卻偏科數學的推理選手。面對純數學密集型任務，現階段 DeepSeek R1 依然更強。不過它驗證了小模型僅靠自身算力放大蒸餾也能持續漲點，這給不想過度依賴大模型蒸餾的開源開發者提供了一條新思路。