跳到正文
IFAI

开源项目

腾讯开源 Hy3 混合专家模型:总参数 295B 激活 21B,专攻 Agent 编程

首次发布 传播指数 48

腾讯在 Hugging Face 等平台开源混合专家模型 Hy3,总参数 295B、激活 21B。该模型主打 Agent 编程与推理,支持 256K 上下文,内部实测幻觉率降至 5.4%。模型遵循 Apache 2.0 协议,并同步提供 FP8 权重。

腾讯开源 Hy3 混合专家模型:总参数 295B 激活 21B,专攻 Agent 编程
图:huggingface.co

腾讯在 Hugging Face 等平台开源了大型混合专家模型 Hy3。它主打推理和 Agent 编程,总参数量达到 295B,但每次推理只激活 21B 参数,同时配备了 3.8B 参数的 MTP 预测层。

这个体量不仅支持长达 256K 的上下文窗口,还提供了更低推理成本的 FP8 量化版本,开源协议采用宽松的 Apache 2.0。

它能做什么

Hy3 专为生产级 Agent 工作流打造,尤其擅长编码、前端设计、CI/CD 流程自动化和办公分析。

在日常开发中,你可以直接让它通过 Vibe Coding 构建完整的网页应用前端,或者生成特定逻辑的小游戏。在自动化办公场景下,它也能用来撰写结构化报告、梳理复杂数据以及生成演示文稿。

腾讯在研发中特别强调实用体验。官方找了 270 位专家用实际业务任务进行盲测,Hy3 拿到 2.67 分(满分 4 分),超过了 GLM-5.1 的 2.51 分,在前端开发、存储数据处理与 CI/CD 环节优势最明显。

在代码基准上,它的 SWE-bench Verified 达到 78 分,SWE-bench Pro 达到 57.9 分,GPQA Diamond 达到 90.4 分。而且它在不同 Agent 框架之间表现稳定,在 CodeBuddy、Cline 和 KiloCode 等工具上的准确率波动控制在 4% 以内。

为了减少大模型常见的跑偏问题,Hy3 进行了精细的数据清洗和训练约束。内部测试显示,它的幻觉率从之前的 12.5% 下降到 5.4%,常识错误率从 25.4% 降至 12.7%,多轮对话中的意图漂移问题发生率也从 17.4% 压到了 7.9%。

怎么跑起来

虽然每次推理仅激活 21B 参数,但由于 295B 的总参数底座摆在那里,单机部署的硬件门槛并不低。

即便是 FP8 量化权重,模型文件体积也在 300GB 左右。如果要在生产环境中提供服务,官方建议使用 8 卡 H20-3e 或具备大容量显存的 GPU 集群。

在部署框架上,Hy3 原生适配了 vLLM 和 SGLang,两者都提供了针对该模型多 Token 预测(MTP)加速的专属配置。

如果你使用 SGLang 或 vLLM 启动服务,可以直接暴露兼容 OpenAI 格式的 API 接口,并支持传入 reasoning_effort 参数来调节思考深度,普通问答设为 no_think 直接返回,复杂数学与推理任务则设为 high 开启深度链式思考。

目前 Hy3 与 Hy3-FP8 的模型权重已完整发布在 Hugging Face、ModelScope、GitCode 和 CNB 上,微调与强化学习后训练指南也一并开放。

为什么重要

对于需要私有化搭建软件工程 Agent 的团队来说,Hy3 是目前极少数在代码修复、工具调用鲁棒性上能直接媲美万亿级庞然大物的实用型基座。

它没有卷虚高的通用榜单,而是把精力放在了工具调用的格式容错、多轮上下文约束继承这些脏活累活上。我们认为这种以产品稳定性为导向的后训练思路非常务实。

不过,接近 300GB 的显存占用注定它无法在个人工作站上轻松把玩,中小团队最好直接使用多卡服务器搭 vLLM 跑 FP8 版本。如果你正在寻找能够稳定驱动本地代码助理和自动化 Agent 的开源底座,Hy3 值得列入重点评测清单。

来源 (1)

  1. [1]
    huggingface.co(在新标签页打开)原文huggingface.co

每日 AI 内容精选