Nous Research 发布 Hermes 4：引入混合推理与极低拒答率

Nous Research 推出了 Hermes 4，这是一个基于 Llama-3.1-70B 打造的开源混合推理模型，同时他们也改版上线了全新的 Nous Chat 网页平台。

它最核心的变化，是把传统的指令对话和深度思考结合在了一起。当你在提示词里开启思考模式，或者模型判断需要深入推导时，它会把内部思维链写在显式的 <think> 标签里，想明白了再给出最终答案。如果你追求更快的响应速度，也可以选择跳过推理过程，直接获取简洁回复。

它能做什么

Hermes 4 重点强化了数学、代码、科学逻辑以及结构化输出能力。在处理 JSON 输出时，模型不仅能严格按照给定的 Schema 生成有效数据，还专门训练了自动修复格式错误的能力。

工具调用机制也和推理模式打通了。在单轮对话里，模型可以先在 <think> 标签内思考调用逻辑，随后吐出 <tool_call> 标签触发函数，等外部环境返回结果后，再把数据带回思考链继续推导，最后输出完整回答。官方针对 vLLM 和 SGLang 提供了现成的解析器支持，流式输出时解析起来很顺手。

更惹眼的是对齐策略的调整。Nous Research 团队做了一个名为 RefusalBench 的测试基准，专门测量模型在面对各种边缘指令时的服从意愿。Hermes 4 在这项基准上压过了主流的开源与闭源模型，展现出了极低的拒答率。它几乎不带预设立场，用户给出的系统提示词和风格约束，它都能更顺从地照单全收。

怎么跑起来与规格细节

这次飞跃很大程度上靠的是后训练数据的堆量与清洗。团队把后训练语料从上一代的 100 万样本、12 亿 token，直接暴增到了约 500 万样本、600 亿 token，其中大量混合了经过验证的推理步骤数据。

部署方面，模型基于 Llama-3-Chat 格式。目前已经在 Hugging Face 上完整放出了权重，采用 Float16 精度加载。跑 70B 模型通常需要两张 24GB 显存显卡配合量化，或者多卡专业算力环境。官方推荐的生成采样参数是温度 0.6、top_p 0.95、top_k 20。

如果你暂时不想折腾本地硬件，可以在 Nous Chat 网页端直接体验。此外，技术报告里还提到了 405B 规模的相关配置支持。

为什么重要

Hermes 4 解决了一个困扰开源社区很久的痛点：主流商业模型往往把安全护栏设得过窄，稍微碰到冷门创意或边缘技术话题就动辄拒答，让想要精细控制输出的开发者苦不堪言。

它把推导过程和工具调用整合成了一套清晰的标签协议，同时把控制权完全交还给了开发者。如果你正在搭建需要稳定输出 JSON 的本地 Agent，或者受够了闭源大模型各种莫名其妙的道德说教，Hermes 4 70B 是目前非常值得拉到本地测试的生产力底座。