腾讯开源 Hy3 混合专家模型:总参数 295B 激活 21B,专攻 Agent 编程
腾讯在 Hugging Face 等平台开源混合专家模型 Hy3,总参数 295B、激活 21B。该模型主打 Agent 编程与推理,支持 256K 上下文,内部实测幻觉率降至 5.4%。模型遵循 Apache 2.0 协议,并同步提供 FP8 权重。

腾讯在 Hugging Face 等平台开源了大型混合专家模型 Hy3。它主打推理和 Agent 编程,总参数量达到 295B,但每次推理只激活 21B 参数,同时配备了 3.8B 参数的 MTP 预测层。
这个体量不仅支持长达 256K 的上下文窗口,还提供了更低推理成本的 FP8 量化版本,开源协议采用宽松的 Apache 2.0。
它能做什么
Hy3 专为生产级 Agent 工作流打造,尤其擅长编码、前端设计、CI/CD 流程自动化和办公分析。
在日常开发中,你可以直接让它通过 Vibe Coding 构建完整的网页应用前端,或者生成特定逻辑的小游戏。在自动化办公场景下,它也能用来撰写结构化报告、梳理复杂数据以及生成演示文稿。
腾讯在研发中特别强调实用体验。官方找了 270 位专家用实际业务任务进行盲测,Hy3 拿到 2.67 分(满分 4 分),超过了 GLM-5.1 的 2.51 分,在前端开发、存储数据处理与 CI/CD 环节优势最明显。
在代码基准上,它的 SWE-bench Verified 达到 78 分,SWE-bench Pro 达到 57.9 分,GPQA Diamond 达到 90.4 分。而且它在不同 Agent 框架之间表现稳定,在 CodeBuddy、Cline 和 KiloCode 等工具上的准确率波动控制在 4% 以内。
为了减少大模型常见的跑偏问题,Hy3 进行了精细的数据清洗和训练约束。内部测试显示,它的幻觉率从之前的 12.5% 下降到 5.4%,常识错误率从 25.4% 降至 12.7%,多轮对话中的意图漂移问题发生率也从 17.4% 压到了 7.9%。
怎么跑起来
虽然每次推理仅激活 21B 参数,但由于 295B 的总参数底座摆在那里,单机部署的硬件门槛并不低。
即便是 FP8 量化权重,模型文件体积也在 300GB 左右。如果要在生产环境中提供服务,官方建议使用 8 卡 H20-3e 或具备大容量显存的 GPU 集群。
在部署框架上,Hy3 原生适配了 vLLM 和 SGLang,两者都提供了针对该模型多 Token 预测(MTP)加速的专属配置。
如果你使用 SGLang 或 vLLM 启动服务,可以直接暴露兼容 OpenAI 格式的 API 接口,并支持传入 reasoning_effort 参数来调节思考深度,普通问答设为 no_think 直接返回,复杂数学与推理任务则设为 high 开启深度链式思考。
目前 Hy3 与 Hy3-FP8 的模型权重已完整发布在 Hugging Face、ModelScope、GitCode 和 CNB 上,微调与强化学习后训练指南也一并开放。
为什么重要
对于需要私有化搭建软件工程 Agent 的团队来说,Hy3 是目前极少数在代码修复、工具调用鲁棒性上能直接媲美万亿级庞然大物的实用型基座。
它没有卷虚高的通用榜单,而是把精力放在了工具调用的格式容错、多轮上下文约束继承这些脏活累活上。我们认为这种以产品稳定性为导向的后训练思路非常务实。
不过,接近 300GB 的显存占用注定它无法在个人工作站上轻松把玩,中小团队最好直接使用多卡服务器搭 vLLM 跑 FP8 版本。如果你正在寻找能够稳定驱动本地代码助理和自动化 Agent 的开源底座,Hy3 值得列入重点评测清单。
来源 (1)
- huggingface.co(在新标签页打开)原文huggingface.co