本文へスキップ
IFAI

オープンソース

テンセント、770Bのオープンソースモデル「Hy4 preview」公開:実務特化と自己改善ループが強み

公開 拡散指数 52

テンセント・混元は総パラメータ770B・アクティブ49B、コンテキスト長1Mの新世代モデル「Hy4 preview」をオープンソース公開した。プログラミングや財務などの実務現場向けに最適化され、訓練や演算子最適化をモデル自身が関与して改善するループを導入。元宝やWorkBuddyで提供が始まっている。

テンセント、770Bのオープンソースモデル「Hy4 preview」公開:実務特化と自己改善ループが強み
画像:tencent.com

Hy4 previewは、テンセント・混元がオープンソース化した超大規模MoEモデルです。総パラメータ数は770Bに達しますが、推論時にアクティブになるのは49Bに抑えられており、1Mの超長コンテキストに対応しています。一般的なベンチマーク偏重ではなく、コーディングや業務分析といった実際の現場タスクに直結する設計が特徴です。

長大なコードの修正やゲームプロトタイプの作成、複雑な財務データの解析を行いたいエンジニアに向いています。

何ができるのか

開発シーンにおいて、Hy4 previewは複数ステップにわたるデバッグやプロジェクト構造の理解、フロントエンドのUI調整を強化しています。ArenaのWeb DevリーダーボードではGLM 5.3 Flashと並び、Qwen 3.8 MaxやDeepSeek V4 Proを上回る成績を記録しました。

オフィスワークでは複数ファイルにまたがる財務分析や成果物ドキュメントの生成に対応し、ゲーム開発では自然言語の指示からプレイ可能なプロトタイプを立ち上げられます。テンセント社内の専門家163名が203のエンジニアリング課題で行ったブラインドテストでは、4点満点中2.99点を獲得し、GLM 5.3の2.92点やKimi K3の2.94点を上回りました。

仕組みと動作環境

アーキテクチャ面では、DeepSeekやGLMにみられるスパースアテンションやインデックスキャッシュ、アイデンティティハイパーコネクションを採用して層間の情報伝達を効率化しています。

特筆すべきは自己改善ループです。Hy4 previewは自身の開発プロセスに組み込まれ、訓練方針の提案や実験の実行、低水準カーネルの最適化をモデル主導で実施しました。システムのボトルネックを自ら分析した結果、エンドツーエンドのスループットはベースライン比で31.8%向上しています。

ローカル環境で動かすハードルは高めです。オリジナルの重みサイズは約1.56TBに達します。有志によってGGUF版が公開されており、1-bit量子化版であれば約229GBまで縮小されます。ライセンスは商用利用にも寛容なApache 2です。

手軽に試したい場合、元宝やima、WorkBuddyおよびCodeBuddy上で直接利用可能で、WorkBuddyとCodeBuddyでは2週間の無料枠が提供されています。APIもTencent Cloud TokenhubやOpenRouter経由で提供されています。

なぜ重要か

大容量VRAMを確保できる開発チームにとって、実務タスク向けに高度に調整された巨大オープンモデルをApache 2で自社環境に置ける価値は大きいです。社内コードや機密財務データを外部に出さずに運用できます。

業界全体にとっても、軽量版ではなく700B超のフラッグシップ級MoEがフルオープン化された意義は重く、モデル自身が自らの推論カーネルを改善する再帰的なアプローチの有効性を実証した点でも注目に値します。

情報源 (2)

  1. [1]
    tencent.com(新しいタブで開きます)原文tencent.com
  2. [2]
    youtube.com(新しいタブで開きます)報道youtube.com

毎日のAIピックアップ