騰訊開源 Hy4 preview：770B 引數主打工作場景，開始自己訓練自己

Hy4 preview 是騰訊混元剛開源的一個超大體量 MoE 模型，總引數高達 770B，但實際推理時只會啟用 49B。它最大的特點不是單純堆跑分，而是直接瞄準真實生產力場景，支援 1M 的超長上下文。

如果你平時需要模型寫長程式碼、做遊戲原型、處理複雜財務報表，或者跑科研模擬，它就是奔著這些具體工序最佳化的。

它能做什麼

根據騰訊公佈的資料，Hy4 preview 在開發場景裡強化了長程程式碼任務的理解與除錯，對前端介面的審美和互動也做了專門最佳化。在第三方 Arena 的 Web Dev 排行榜上，它直接追平了 GLM 5.3 Flash，並超過了 Qwen 3.8 Max 和 DeepSeek V4 Pro。

在辦公和金融分析上，它能看懂複雜的業務表格與報告，支援跨檔案協同並直接生成交付級別的文件。在遊戲製作中，它支援靠一句話需求生成可玩原型，並能對接遊戲引擎進行多輪修改。在科學計算方面，它覆蓋了分子動力學模擬、凝聚態物理與基礎數學推導。

在騰訊內部 163 名專家針對 203 個工程任務的盲測中，Hy4 preview 拿到了 2.99 分（滿分 4 分），略高於 GLM 5.3 的 2.92 分和 Kimi K3 的 2.94 分。

怎麼做到的與硬體門檻

架構設計上，Hy4 preview 借鑑了類似 DeepSeek 和 GLM 的稀疏注意力機制與索引快取，並引入恆等超連線來最佳化層間資訊流。

更有意思的是它的研發方式。模型首次參與了自身的迭代全過程，自己提改進方案、自動跑實驗，並根據日誌反饋去調整資料策略與底層運算元，形成了初步的自我改進閉環。依靠自主分析系統瓶頸並最佳化運算元融合，它的端到端吞吐提升了 31.8%。

不過想在本地跑起這個大傢伙，門檻相當高。模型完整權重體積高達 1.56 TB。好在社群動作很快，已經有人放出了 GGUF 格式，其中 1-bit 量化版本壓縮到了 229 GB 左右，普通工作站依然需要多張大視訊記憶體專業卡才能承載。

模型遵循寬鬆的 Apache 2 許可證開源。不想折騰本地部署的話，騰訊已經在元寶、ima 以及 WorkBuddy 和 CodeBuddy 同步上線，並在後兩者上提供兩週限時免費體驗。通過騰訊雲 Tokenhub 或 OpenRouter 調 API，輸入每百萬 token 為 6 元，輸出 18 元，快取命中最低 0.3 元。

為什麼重要

對於需要處理真實工程任務的團隊來說，Hy4 preview 提供了一個少見的、在程式設計和專業辦公上經過深度調優的超大權重開源底座。只要硬體預算充足，企業完全可以把它拉回本地，用於私有程式碼庫或機密財務分析的深度定製。

對行業而言，騰訊混元把 770B 級別的頂尖模型直接扔進開源社群，說明頭部大廠在開源領域的軍備競賽已經從輕量模型擴充套件到萬億級邊緣的大體量 MoE。模型自我寫運算元、改訓練策略的閉環嘗試，也給後續大模型的自迭代演進打了個樣。