跳到正文
IFAI

大模型

阿里釋出 Qwen3-Next-80B-A3B:總引數 80B 僅啟用 3B,推理提速 10 倍

首次發布 傳播指數 52

阿里巴巴釋出 Qwen3-Next-80B-A3B。該模型擁有 800 億總引數,但每個 token 僅啟用 30 億引數,訓練成本降低 10 倍,推理速度比 Qwen3-32B 快 10 倍。其 Thinking 版本在推理能力上超越了 Gemini-2.5-Flash-Thinking。

阿里釋出 Qwen3-Next-80B-A3B:總引數 80B 僅啟用 3B,推理提速 10 倍
圖:x.com

80B 的體量,3B 的執行成本

模型引數做大容易,算力賬單卻吃不消。阿里巴巴旗下的千問團隊給出了一個極致壓縮成本的解法:推出 Qwen3-Next-80B-A3B。

雖然總引數量達到 800 億,但它處理每個 token 時只啟用 30 億引數。根據官方公佈的資料,其訓練成本降到了原先的十分之一,推理速度比 Qwen3-32B 快 10 倍,尤其在超過 32K 的長文本場景下優勢明顯。

能做到這麼快,關鍵在於架構創新。它採用了 Gated DeltaNet 與 Gated Attention 的混合架構,並搭載了超稀疏 MoE 機制,在 512 個專家中每次僅路由 10 個外加 1 個共享專家,同時配合多 Token 預測技術提升投機解碼速度。

效能上,官方稱其 Instruct 版本逼近 235B 旗艦水平,Thinking 版本在推理上超越了 Gemini-2.5-Flash-Thinking。

為什麼重要

我們認為,Qwen3-Next 這次將「大模型小算力」推到了新極限。只啟用 3B 引數卻擁有 80B 的容量,意味著在有限的視訊記憶體與計算資源下部署低延遲、高推理能力的模型變得觸手可及。

對行業來說,它直接挑戰了常規稀疏 MoE 與純 Dense 模型的平衡點,證明了海量專家配合線性注意力混合架構是兼顧速度與召回的可行路線。

不過看起來,512 個專家帶來的視訊記憶體頻寬排程難度不低,開發者在實際私有化部署時能否跑滿官方宣傳的 10 倍加速,還得看具體硬體環境的適配情況。

來源 (1)

  1. [1]
    @Alibaba_Qwen(在新分頁開啟)原文x.com

每日 AI 內容精選