騰訊開源 Hy3 混合專家模型：總引數 295B 啟用 21B，專攻 Agent 程式設計

騰訊在 Hugging Face 等平臺開源了大型混合專家模型 Hy3。它主打推理和 Agent 程式設計，總引數量達到 295B，但每次推理只啟用 21B 引數，同時配備了 3.8B 引數的 MTP 預測層。

這個體量不僅支援長達 256K 的上下文視窗，還提供了更低推理成本的 FP8 量化版本，開源協議採用寬鬆的 Apache 2.0。

它能做什麼

Hy3 專為生產級 Agent 工作流打造，尤其擅長編碼、前端設計、CI/CD 流程自動化和辦公分析。

在日常開發中，你可以直接讓它通過 Vibe Coding 構建完整的網頁應用前端，或者生成特定邏輯的小遊戲。在自動化辦公場景下，它也能用來撰寫結構化報告、梳理複雜資料以及生成簡報。

騰訊在研發中特別強調實用體驗。官方找了 270 位專家用實際業務任務進行盲測，Hy3 拿到 2.67 分（滿分 4 分），超過了 GLM-5.1 的 2.51 分，在前端開發、儲存資料處理與 CI/CD 環節優勢最明顯。

在程式碼基準上，它的 SWE-bench Verified 達到 78 分，SWE-bench Pro 達到 57.9 分，GPQA Diamond 達到 90.4 分。而且它在不同 Agent 框架之間表現穩定，在 CodeBuddy、Cline 和 KiloCode 等工具上的準確率波動控制在 4% 以內。

為了減少大模型常見的跑偏問題，Hy3 進行了精細的資料清洗和訓練約束。內部測試顯示，它的幻覺率從之前的 12.5% 下降到 5.4%，常識錯誤率從 25.4% 降至 12.7%，多輪對話中的意圖漂移問題發生率也從 17.4% 壓到了 7.9%。

怎麼跑起來

雖然每次推理僅啟用 21B 引數，但由於 295B 的總引數底座擺在那裡，單機部署的硬體門檻並不低。

即便是 FP8 量化權重，模型檔案體積也在 300GB 左右。如果要在生產環境中提供服務，官方建議使用 8 卡 H20-3e 或具備大容量視訊記憶體的 GPU 叢集。

在部署框架上，Hy3 原生適配了 vLLM 和 SGLang，兩者都提供了針對該模型多 Token 預測（MTP）加速的專屬配置。

如果你使用 SGLang 或 vLLM 啟動服務，可以直接暴露相容 OpenAI 格式的 API 介面，並支援傳入 reasoning_effort 引數來調節思考深度，普通問答設為 no_think 直接返回，複雜數學與推理任務則設為 high 開啟深度鏈式思考。

目前 Hy3 與 Hy3-FP8 的模型權重已完整發布在 Hugging Face、ModelScope、GitCode 和 CNB 上，微調與強化學習後訓練指南也一併開放。

為什麼重要

對於需要私有化搭建軟體工程 Agent 的團隊來說，Hy3 是目前極少數在程式碼修復、工具呼叫魯棒性上能直接媲美萬億級龐然大物的實用型基座。

它沒有卷虛高的通用榜單，而是把精力放在了工具呼叫的格式容錯、多輪上下文約束繼承這些髒活累活上。我們認為這種以產品穩定性為導向的後訓練思路非常務實。

不過，接近 300GB 的視訊記憶體佔用註定它無法在個人工作站上輕鬆把玩，中小團隊最好直接使用多卡伺服器搭 vLLM 跑 FP8 版本。如果你正在尋找能夠穩定驅動原生代碼助理和自動化 Agent 的開源底座，Hy3 值得列入重點評測清單。