ZGCM-1：7.39B 引數主打數學與搜尋，開源全套訓練流程

ZGCM-1 是中關村學院和中關村人工智慧研究院開源的 7.39B 引數稠密語言模型，專門用來處理數學推理與工具輔助搜尋。

它同時支援思考模式與直接回答模式，擁有 256K 的長上下文能力，可以直接部署在消費級顯示卡上執行。更關鍵的是，團隊不僅放出了模型權重，還把從資料清洗、預訓練到強化學習的完整流程全部端了出來。

它能做什麼

數學推理是 ZGCM-1 的看家本領。在技術報告中，使用 256K 微調權重的思考模式下，它在 MATH-500 上拿到了 97.13% 的得分，在 AIME 2026 達到 75.00%，在 HMMT 2025 也有 70.42%。報告橫向對比了包括 DeepSeek-R1-0528-Qwen3-8B 和 Qwen3-8B 在內的 7 款同量級模型，它在 14 項推理基準上的綜合平均排名位列第一。

除了低頭算題，它還擅長抬頭搜尋。在工具輔助的多步搜尋評測中，ZGCM-1 在 WebWalkerQA 上取得了 63.09% 的成績，BrowseComp 達到 19.43%，文本版 GAIA 達到 42.52%。在允許呼叫 Ghidra 工具的二進位制函式搜尋任務中，它在 50 個任務裡完成了 31 個精確匹配，準確率為 62.00%。

怎麼做到的

小模型要塞進這麼多能力，關鍵在架構與多階段訓練的配合。

ZGCM-1 採用了混合注意力機制。整個 32 層結構裡，有 27 層門控滑動視窗注意力，區域性視窗僅為 128 token，另外搭配 5 層全域性注意力。這種設計讓它在處理 256K 極長上下文時，訓練吞吐量比全注意力機制提升了 3.94 倍。

預訓練階段，模型吞掉了約 4.19T token，全面採用了混合 FP8 精度和 Muon 最佳化器。報告估算，通過架構、精度、最佳化器和歸一化的組合最佳化，在 16K 預訓練中達到目標 loss 的時間縮短了大約 4.2 倍。

緊接著的中間訓練階段處理了約 600B token，上下文長度按 16K、64K、256K 逐步拉伸，並把互動軌跡重新構建為馬爾可夫決策過程的狀態轉移來監督決策。最後的監督微調則混合了通用任務與智慧體任務，並配合執行驗證軌跡與僅針對助手回答的損失函式。

硬體與開放程度

ZGCM-1 只有 7.39B 引數，單張消費級顯示卡就能輕鬆裝下並執行推理。

開放程度是這個專案最徹底的地方。倉庫以 MIT 許可證分發，程式碼倉庫按資料處理、預訓練、中間訓練、監督微調和強化學習分成了五個完整目錄，每個目錄都附帶專屬配置和執行說明。模型權重和清洗後的資料集已經同步託管在 Hugging Face 上。

為什麼重要

對於個人開發者和邊緣計算場景來說，ZGCM-1 是一個極其實用的輕量級利器。你不需要租用昂貴的企業級多卡叢集，在本地單卡上就能跑起一個兼顧高難度競賽數學和網路搜尋工具呼叫的推理模型。

不過外部評測也提醒道，官方技術報告在部分基準對比中選用了較舊版本的基線模型，存在一定程度的選擇性比較。但退一步講，在這個體量下做到超過 97% 的 MATH-500 表現，並且願意把從資料清洗到 RL 的全套菜譜完全開源，這種透明度在當前開源社群裡依然非常難得，值得需要做本地推理智慧體的開發者親自上手跑一跑。