腾讯开源 Hy4 preview：770B 参数主打工作场景，开始自己训练自己

Hy4 preview 是腾讯混元刚开源的一个超大体量 MoE 模型，总参数高达 770B，但实际推理时只会激活 49B。它最大的特点不是单纯堆跑分，而是直接瞄准真实生产力场景，支持 1M 的超长上下文。

如果你平时需要模型写长代码、做游戏原型、处理复杂财务报表，或者跑科研模拟，它就是奔着这些具体工序优化的。

它能做什么

根据腾讯公布的数据，Hy4 preview 在开发场景里强化了长程代码任务的理解与调试，对前端界面的审美和交互也做了专门优化。在第三方 Arena 的 Web Dev 排行榜上，它直接追平了 GLM 5.3 Flash，并超过了 Qwen 3.8 Max 和 DeepSeek V4 Pro。

在办公和金融分析上，它能看懂复杂的业务表格与报告，支持跨文件协同并直接生成交付级别的文档。在游戏制作中，它支持靠一句话需求生成可玩原型，并能对接游戏引擎进行多轮修改。在科学计算方面，它覆盖了分子动力学模拟、凝聚态物理与基础数学推导。

在腾讯内部 163 名专家针对 203 个工程任务的盲测中，Hy4 preview 拿到了 2.99 分（满分 4 分），略高于 GLM 5.3 的 2.92 分和 Kimi K3 的 2.94 分。

怎么做到的与硬件门槛

架构设计上，Hy4 preview 借鉴了类似 DeepSeek 和 GLM 的稀疏注意力机制与索引缓存，并引入恒等超连接来优化层间信息流。

更有意思的是它的研发方式。模型首次参与了自身的迭代全过程，自己提改进方案、自动跑实验，并根据日志反馈去调整数据策略与底层算子，形成了初步的自我改进闭环。依靠自主分析系统瓶颈并优化算子融合，它的端到端吞吐提升了 31.8%。

不过想在本地跑起这个大家伙，门槛相当高。模型完整权重体积高达 1.56 TB。好在社区动作很快，已经有人放出了 GGUF 格式，其中 1-bit 量化版本压缩到了 229 GB 左右，普通工作站依然需要多张大显存专业卡才能承载。

模型遵循宽松的 Apache 2 许可证开源。不想折腾本地部署的话，腾讯已经在元宝、ima 以及 WorkBuddy 和 CodeBuddy 同步上线，并在后两者上提供两周限时免费体验。通过腾讯云 Tokenhub 或 OpenRouter 调 API，输入每百万 token 为 6 元，输出 18 元，缓存命中最低 0.3 元。

为什么重要

对于需要处理真实工程任务的团队来说，Hy4 preview 提供了一个少见的、在编程和专业办公上经过深度调优的超大权重开源底座。只要硬件预算充足，企业完全可以把它拉回本地，用于私有代码库或机密财务分析的深度定制。

对行业而言，腾讯混元把 770B 级别的顶尖模型直接扔进开源社区，说明头部大厂在开源领域的军备竞赛已经从轻量模型扩展到万亿级边缘的大体量 MoE。模型自我写算子、改训练策略的闭环尝试，也给后续大模型的自迭代演进打了个样。