跳到正文
IFAI

開源專案

阿里開源 Qwen3.6-27B:270 億引數程式設計跑分反超 397B 大模型

首次發布 傳播指數 66

阿里通義團隊開源稠密模型 Qwen3.6-27B。官方稱其在主流程式設計基準測試中全面超越自家的 Qwen3.5-397B-A17B,具備智慧體程式設計與多模態推理能力,支援思考與非思考模式,並採用寬鬆的 Apache 2.0 協議開源。

阿里開源 Qwen3.6-27B:270 億引數程式設計跑分反超 397B 大模型
圖:x.com

Qwen3.6-27B 是阿里通義團隊推出的 270 億引數稠密模型,主打智慧體程式設計與多模態推理。它採用完全開放的 Apache 2.0 協議,不僅能寫前後端程式碼、理清整個專案倉庫的邏輯,而且在多項主流程式設計基準測試裡的表現,直接甩開了前代擁有近 4000 億引數的 Qwen3.5-397B-A17B。

它能做到什麼

這個模型專為實際開發場景最佳化,特別擅長處理跨多檔案的倉庫級程式碼修改和前端工程。在針對前端生成的 QwenWebBench 測試中,它拿下了 1487 分,遠高於前代 Qwen3.5-27B 的 1068 分;在測試倉庫級程式碼生成的 NL2Repo 上,它得到 36.2 分;而在衡量自主軟體工程能力的 SWE-bench Verified 上,它跑出了 77.2 分,逼近 Claude 4.5 Opus 的 80.9 分。

除了常規推理,Qwen3.6-27B 支援在思考與非思考模式之間切換。這次它還加入了一項名為思維保留的機制。過去的模型在多輪對話中會丟掉之前的思考鏈,每輪都要重新推演;開啟思維保留後,模型會在多輪互動中持續沿用歷史思考軌跡,既減少了重複推理浪費的 token,也能大幅提升快取利用效率。

它本身是個原生多模態模型,支援文本、影像與影片輸入。原生上下文長度達到 262K,配合 YaRN 技術可以進一步擴充套件到 1M,看長程式碼檔案或者超長日誌基本沒有壓力。

混合架構與部署規格

能把 27B 稠密模型的效能和速度榨出來,核心在於它獨特的混合注意力架構。在全部 64 層網路中,每四層裡有三層採用了線性複雜度的 Gated DeltaNet,最後一層才是傳統的門控注意力。這種設計大幅降低了長上下文下的計算開銷,同時讓鍵值快取佔用明顯縮減。

模型還引入了多步訓練的多 Token 預測技術,可以在推理時開啟投機解碼,成倍提升生成吞吐量。

官方在 Hugging Face 和 ModelScope 上同時釋出了兩個版本:BF16 全精度權重,以及採用 128 塊大小精細量化的 FP8 版本。如果你要本地部署或做服務化,它已經原生相容 vLLM、SGLang、KTransformers 和 Transformers。想先試試水,也可以直接去 Qwen Studio 網頁端免部署體驗。

為什麼重要

對於獨立開發者和企業工程團隊來說,Qwen3.6-27B 是目前極具價效比的原生代碼智慧體底座。過去要跑出這種水平的程式設計能力,要麼得依賴昂貴的閉源商業介面,要麼得在伺服器上硬頂數百億啟用引數的龐大 MoE 架構。現在一塊消費級顯示卡配合 FP8 量化版本,或者幾塊主流顯示卡,就能把一個接近頂級商用水平的程式設計模型跑在本地私有環境裡,程式碼不出內網的門檻被徹底打了下來。

我們認為,阿里這次走稠密小鋼炮加線性混合注意力的路線非常聰明。它證明了在特定領域內,小尺寸稠密模型只要架構設計得當、後訓練針對性夠強,完全可以越級反超大它幾倍的巨型架構。不過使用者在部署時也需要留意,混合注意力機制和思維保留功能通常對推理後端的版本有硬性要求,需要跟進升級對應的執行環境才能發揮全部實力。

來源 (3)

  1. [1]
    x.com(在新分頁開啟)原文x.com
  2. [2]
    huggingface.co(在新分頁開啟)報導huggingface.co
  3. [3]

每日 AI 內容精選