Nous Research 釋出 Hermes 4：引入混合推理與極低拒答率

Nous Research 推出了 Hermes 4，這是一個基於 Llama-3.1-70B 打造的開源混合推理模型，同時他們也改版上線了全新的 Nous Chat 網頁平臺。

它最核心的變化，是把傳統的指令對話和深度思考結合在了一起。當你在提示詞裡開啟思考模式，或者模型判斷需要深入推導時，它會把內部思維鏈寫在顯式的 <think> 標籤裡，想明白了再給出最終答案。如果你追求更快的響應速度，也可以選擇跳過推理過程，直接獲取簡潔回覆。

它能做什麼

Hermes 4 重點強化了數學、程式碼、科學邏輯以及結構化輸出能力。在處理 JSON 輸出時，模型不僅能嚴格按照給定的 Schema 生成有效資料，還專門訓練了自動修復格式錯誤的能力。

工具呼叫機制也和推理模式打通了。在單輪對話裡，模型可以先在 <think> 標籤內思考呼叫邏輯，隨後吐出 <tool_call> 標籤觸發函式，等外部環境返回結果後，再把資料帶回思考鏈繼續推導，最後輸出完整回答。官方針對 vLLM 和 SGLang 提供了現成的解析器支援，流式輸出時解析起來很順手。

更惹眼的是對齊策略的調整。Nous Research 團隊做了一個名為 RefusalBench 的測試基準，專門測量模型在面對各種邊緣指令時的服從意願。Hermes 4 在這項基準上壓過了主流的開源與閉源模型，展現出了極低的拒答率。它幾乎不帶預設立場，使用者給出的系統提示詞和風格約束，它都能更順從地照單全收。

怎麼跑起來與規格細節

這次飛躍很大程度上靠的是後訓練資料的堆量與清洗。團隊把後訓練語料從上一代的 100 萬樣本、12 億 token，直接暴增到了約 500 萬樣本、600 億 token，其中大量混合了經過驗證的推理步驟資料。

部署方面，模型基於 Llama-3-Chat 格式。目前已經在 Hugging Face 上完整放出了權重，採用 Float16 精度載入。跑 70B 模型通常需要兩張 24GB 視訊記憶體顯示卡配合量化，或者多卡專業算力環境。官方推薦的生成取樣引數是溫度 0.6、top_p 0.95、top_k 20。

如果你暫時不想折騰本地硬體，可以在 Nous Chat 網頁端直接體驗。此外，技術報告裡還提到了 405B 規模的相關配置支援。

為什麼重要

Hermes 4 解決了一個困擾開源社群很久的痛點：主流商業模型往往把安全護欄設得過窄，稍微碰到冷門創意或邊緣技術話題就動輒拒答，讓想要精細控制輸出的開發者苦不堪言。

它把推導過程和工具呼叫整合成了一套清晰的標籤協議，同時把控制權完全交還給了開發者。如果你正在搭建需要穩定輸出 JSON 的本地 Agent，或者受夠了閉源大模型各種莫名其妙的道德說教，Hermes 4 70B 是目前非常值得拉到本地測試的生產力底座。