跳到正文
IFAI

大模型

阿里发布 Qwen3-Next-80B-A3B:总参数 80B 仅激活 3B,推理提速 10 倍

首次发布 传播指数 52

阿里巴巴发布 Qwen3-Next-80B-A3B。该模型拥有 800 亿总参数,但每个 token 仅激活 30 亿参数,训练成本降低 10 倍,推理速度比 Qwen3-32B 快 10 倍。其 Thinking 版本在推理能力上超越了 Gemini-2.5-Flash-Thinking。

阿里发布 Qwen3-Next-80B-A3B:总参数 80B 仅激活 3B,推理提速 10 倍
图:x.com

80B 的体量,3B 的运行成本

模型参数做大容易,算力账单却吃不消。阿里巴巴旗下的千问团队给出了一个极致压缩成本的解法:推出 Qwen3-Next-80B-A3B。

虽然总参数量达到 800 亿,但它处理每个 token 时只激活 30 亿参数。根据官方公布的数据,其训练成本降到了原先的十分之一,推理速度比 Qwen3-32B 快 10 倍,尤其在超过 32K 的长文本场景下优势明显。

能做到这么快,关键在于架构创新。它采用了 Gated DeltaNet 与 Gated Attention 的混合架构,并搭载了超稀疏 MoE 机制,在 512 个专家中每次仅路由 10 个外加 1 个共享专家,同时配合多 Token 预测技术提升投机解码速度。

性能上,官方称其 Instruct 版本逼近 235B 旗舰水平,Thinking 版本在推理上超越了 Gemini-2.5-Flash-Thinking。

为什么重要

我们认为,Qwen3-Next 这次将「大模型小算力」推到了新极限。只激活 3B 参数却拥有 80B 的容量,意味着在有限的显存与计算资源下部署低延迟、高推理能力的模型变得触手可及。

对行业来说,它直接挑战了常规稀疏 MoE 与纯 Dense 模型的平衡点,证明了海量专家配合线性注意力混合架构是兼顾速度与召回的可行路线。

不过看起来,512 个专家带来的显存带宽调度难度不低,开发者在实际私有化部署时能否跑满官方宣传的 10 倍加速,还得看具体硬件环境的适配情况。

来源 (1)

  1. [1]
    @Alibaba_Qwen(在新标签页打开)原文x.com

每日 AI 内容精选