本文へスキップ
IFAI

オープンソース

TencentがMoEモデル「Hy3」をオープンソース公開、総パラメータ295BでAgent開発に注力

公開 拡散指数 48

TencentはHugging FaceなどでMoEモデル「Hy3」を公開した。総パラメータ295Bのうち21Bが稼働し、コンテキスト長は256Kに対応する。エージェント向けコーディングや推論に特化し、ハルシネーション率を5.4%に低減。Apache 2.0ライセンスでFP8版も提供される。

TencentがMoEモデル「Hy3」をオープンソース公開、総パラメータ295BでAgent開発に注力
画像:huggingface.co

TencentはHugging Faceなどのプラットフォームで、推論とエージェント開発に特化した大規模MoE(混合エキスパート)モデル「Hy3」をオープンソース公開しました。

総パラメータ数は295B、MTP層は3.8Bですが、推論時にアクティブ化されるのはわずか21Bに抑えられています。コンテキスト長は最大256Kに対応し、ライセンスは商用利用にも扱いやすいApache 2.0を採用、FP8量子化版も同時にリリースされました。

何ができるのか

Hy3はベンチマークのスコア稼ぎではなく、実際の開発や業務でのエージェント運用を想定して調整されています。

プログラミング、フロントエンドUI設計、CI/CDパイプラインの構築、データ分析や資料作成といった実務タスクを得意とします。いわゆる「Vibe Coding」スタイルで、自然言語の指示から動くウェブアプリやゲームの骨組みを生成することも可能です。

社内実務タスクを用いた270人の専門家によるブラインド評価では、4点満点中2.67点を記録し、GLM-5.1の2.51点を上回りました。特にフロントエンド開発やデータストレージ、CI/CD分野で明確な強みを示しています。

ベンチマークでもSWE-bench Verifiedで78、SWE-bench Proで57.9、GPQA Diamondで90.4をマーク。CodeBuddyやCline、KiloCodeといった異なるエージェント実行基盤の間でも、精度ブレは4%以内に収まる高い安定性を誇ります。

さらに実用上の課題となるハルシネーション対策を強化。実シナリオでの検証において、ハルシネーション発生率は従来の12.5%から5.4%へ、一般常識の誤り率は25.4%から12.7%へ半減し、複数ターンの指示引き継ぎ失敗率も7.9%まで低減しています。

どう動かすのか

推論時のアクティブパラメータは21Bですが、モデル全体では295Bあるため、ローカル実行には大規模なGPU環境が必要です。

軽量なFP8版でも約300GBの容量を占めるため、本番運用にはH20-3eなどを8基搭載したマルチGPU環境が推奨されています。

推論フレームワークはvLLMとSGLangに公式対応しており、MTP(マルチトークン予測)を有効化したサービングレシピが用意されています。立ち上げたサーバーはOpenAI互換APIとして呼び出すことができ、推論思考モード(reasoning_effort)を通常会話用のno_thinkから、難解なコーディング用のhighまで柔軟に切り替えられます。

コードや重みはHugging Face、ModelScope、GitCode、CNBにて配布されており、ファインチューニングや強化学習(RL)の手順も公開されています。

なぜ重要か

1兆パラメータ超の超巨大モデルが並ぶオープンウェイト陣営の中で、実稼働21Bという現実的なフットプリントで同等クラスのコーディング能力を発揮できる点は非常に実用的です。

ツール呼び出しの形式崩れを防ぎ、特定フレームワークに依存しない頑健性を重視した点は、現場のエージェント開発者にとって扱いやすい選択肢と言えます。個人のPCで手軽に動かせるサイズではありませんが、自社インフラで安全かつ高度なプログラミング支援環境を構築したいチームにとって、Hy3は有力な候補になるはずです。

情報源 (1)

  1. [1]
    huggingface.co(新しいタブで開きます)原文huggingface.co

毎日のAIピックアップ