Deep Cogito 走出隐身：开源 Cogito v1 系列混合推理模型

Cogito v1 是一套开源的混合推理大模型，主打把类似 OpenAI「o」系列和 DeepSeek R1 的深度思考能力，直接塞进开源社区常用的轻量到中等尺寸模型里。

这套模型覆盖了 3B、8B、14B、32B 和 70B 五种参数规格。你可以用它当普通聊天模型获得即时回复，也可以切换到深度推理模式，让它先做自我反省与推演再给出答案。

它是怎么做到的

传统的推理蒸馏大多是从一个更大的教师模型里抄答案，Deep Cogito 采用的则是所谓「迭代蒸馏与放大」（IDA）机制。

简单来说，它让模型在生成阶段调用更多算力，自行探索出更完善的推理链路。随后系统把这些高质量的思考过程，重新蒸馏沉淀回模型自身的参数中，形成正向反馈闭环。创始人将其比作自然语言领域的 AlphaGo 自我对弈。

基座方面，这批模型基于 Meta 的 Llama 3.2、Llama 3.1、Llama 3.3 以及阿里巴巴的 Qwen2.5 微调而来。在开源协议上继承了 Llama 社区许可证，月活不超过 7 亿的产品都可以直接免费商用。

实际效果与数学上的偏科

从官方给出的基准测试来看，推理模式对通用能力的提升相当明显。以最小的 Cogito 3B 为例，在开启推理模式后，MMLU 得分从普通模式的 65.4% 冲到了 72.6%，ARC 得分达到 84.2%，明显甩开了原生 Llama 3.2 3B。

8B 版本在开启推理后，MMLU 得分达到 83.1%，ARC 达到 92.0%。70B 标准版在 MMLU 上拿到 91.7%，超过了 Llama 3.3 70B 的 85.3%，综合跑分也压过了 109B 的 Llama 4 Scout。

另外一个补齐的短板是原生工具调用。像 Cogito 3B 原生支持单工具、并行、多工具以及并行多工具调用，简单调用准确率达到 92.8%，而原版 Llama 3.2 3B 并不支持工具调用。Cogito 8B 的四项调用准确率均超过 89%，远高于 Llama 3.1 8B 的 35% 到 54%。

不过它在数学推理上有明显取舍。对比同样走推理路线的 DeepSeek R1 蒸馏版，Cogito 8B 在 MATH 基准上只拿到 60.2%，远低于 DeepSeek R1 Distill 8B 的 80.6%。Cogito 70B 推理版在 MATH 上的 83.3%，也落后于 DeepSeek R1 的 89.0%。

去哪里上手体验

目前 Cogito v1 的全部权重已经在 Hugging Face 和 Ollama 上线。对于本地开发者，如果你电脑上有支持 Ollama 的显卡或 Apple Silicon 设备，跑 3B 或 8B 版本几乎没有门槛。

不想本地部署的开发者，也可以通过 Fireworks 和 Together AI 的 API 直接接入调用。官方后续还计划推出 109B、400B 和 671B 的混合专家架构（MoE）版本。

为什么重要

如果你正在开发需要本地跑 Agent、调用 API 接口并具备自我核对能力的应用，Cogito v1 是个非常值得测试的选择。它补上了小模型长期缺乏的工具调用和逻辑推演短板，而且 3B 到 8B 的体量非常适合端侧部署。

但它目前更像一个长于通用常识和反思、却偏科数学的推理选手。面对纯数学密集型任务，现阶段 DeepSeek R1 依然更强。不过它验证了小模型仅靠自身算力放大蒸馏也能持续涨点，这给不想过度依赖大模型蒸馏的开源开发者提供了一条新思路。