本文へスキップ
IFAI

AIモデル

アリババが「Qwen3.8-Flash」公開:125B構成・6B駆動のオープン重みマルチモーダルMoE

公開 拡散指数 53

アリババはオープン重みのマルチモーダルMoEモデル「Qwen3.8-Flash」を公開した。総パラメータ125Bのうちトークンごとの活性化は6Bにとどめ、ネイティブで262Kトークンの文脈長に対応する。次世代Qwen4の設計を先行採用しており、Hugging FaceやModelScopeで重みを配布している。

アリババが「Qwen3.8-Flash」公開:125B構成・6B駆動のオープン重みマルチモーダルMoE
画像:alibabacloud.com

アリババは、高いコストパフォーマンスを重視したオープン重みのマルチモーダルMoEモデル「Qwen3.8-Flash」を公開した。大量のリクエストをさばくAPI用途や、コーディング支援、エージェントワークフローに向けた設計だ。

本体パラメータは125B、さらに51BのN-gram埋め込みを備えるが、トークンごとに動く活性化パラメータはわずか6Bにとどまる。標準で262Kトークン、最大100万トークンのコンテキストに対応し、次世代モデル「Qwen4」で採用予定の新アーキテクチャを先行導入している。

何ができるのか

日常的な高負荷タスクで推論コストを大幅に削りながら、自律的なコーディングや長時間のエージェント処理をこなせるのが特徴だ。

ベンチマークではDeepSeek-V4-FlashやClaude-Opus-4.6と競合する。コーディング評価のSWE-bench Pro、長時間の事務処理を測るCoWorkBench、ツール実行を試すToolathlon Verifiedで優秀な成績を収めている。

マルチモーダル分野でも、視覚的数学のMathVision、スマホ操作エージェントのAndroidWorld、身体性AIのERQAで高い水準を示している。

アリババの業務プラットフォーム「QwenWork」ではすでに採用済みで、タスクあたりのトークン消費量を75%削減しつつ、生成速度を約2倍に引き上げた。

仕組みと基本スペック

125Bという大容量でありながら軽量モデル並みの速度を実現できたのは、構造の刷新によるものだ。

アテンションには、履歴情報を圧縮するGated DeltaNetと、軽量インデクサで関連箇所だけを拾うQwen Sparse Attentionを組み合わせたハイブリッド設計を採用した。これにより長文処理時の負荷を抑えている。

層間にはGated Residualを導入して情報伝達と学習の安定性を確保し、51BのN-gram埋め込みで計算量を増やさずに表現力を拡張した。学習にはMuonオプティマイザを活用している。

この改良により、3倍のサイズを持つ従来モデル「Qwen3.7-Plus」と比べ、約9分の1の学習リソースで同等以上の性能を達成した。

入手方法と利用環境

モデルの重みはHugging FaceおよびModelScopeですでに一般公開されており、自由にダウンロードして自前の環境で利用できる。

クラウド経由ですぐ使いたい場合は、アリババのModel StudioやQwen CloudでAPIが提供されている。

利用料金は極めて安価に設定されており、入力100万トークンあたり1元(約0.16ドル)、出力100万トークンあたり3元(約0.47ドル)となっている。

なぜ重要か

大量のコード生成やツール連携エージェントを自前で運用している開発者にとって、すぐに検証する価値がある選択肢だ。6Bモデル並みの推論負荷で、上位モデルに近い処理性能を手元に確保できる。

また、今回の設計は次期Qwen4の土台そのものである点も見逃せない。疎結合アテンションと省電力MoEの組み合わせが定着すれば、オープンモデルにおける長文処理とエージェント運用の経済性はさらに塗り替えられるはずだ。

情報源 (1)

  1. [1]
    alibabacloud.com(新しいタブで開きます)原文alibabacloud.com

毎日のAIピックアップ