Qwen2 開源釋出：覆蓋 5 個尺寸，72B 效能比肩 Llama 3

Qwen2 是 Qwen 團隊開源的新一代大語言模型系列。它把從端側輕量級模型到大規模叢集適用的尺寸一次性補齊，重點強化了多語言、程式碼生成、數學推理以及超長上下文理解能力。

它帶來了什麼

Qwen2 包含 5 個尺寸規格：0.5B、1.5B、7B、MoE 架構的 57B-A14B，以及旗艦級的 72B。每個尺寸都同時提供基礎預訓練版和指令微調版本。

架構設計上最關鍵的變化是全系標配了 GQA（分組查詢注意力）。此前在 Qwen1.5 家族中只有大尺寸模型使用 GQA，現在全系列都能享受到更快的推理速度與更低的視訊記憶體佔用。針對兩個微型版本，團隊還啟用了繫結嵌入層（Tie Embedding），進一步壓縮視訊記憶體開銷。

語言範圍大幅擴充套件。除了中英雙語，訓練集明確新增了 27 種額外語言，覆蓋西歐、東歐、中東、東亞、東南亞及南亞。開發團隊還針對多語言混雜輸入（Code-Switching）做了定向最佳化，減少語言混淆。

長上下文方面，7B 和 72B 的指令微調版本藉助 YARN 等技術，把有效上下文視窗擴充套件到了 128K tokens，在大海撈針測試中能精準提取資訊。57B-A14B 支援 64K，兩個較小尺寸支援 32K。

效能表現與上手門檻

在各項基準測試中，旗艦版 Qwen2-72B 表現優異。其基礎模型在自然語言理解、常識和推理評測中不僅壓過了 Llama-3-70B，也超越了引數規模更大的前代 Qwen1.5-110B。由於融入了 CodeQwen1.5 的訓練經驗，Qwen2 在多語言程式設計和數學解題上有明顯的提升。

安全測試中，在涵蓋非法活動、欺詐、隱私侵犯等四類多語言誘導提問下，Qwen2-72B-Instruct 的有害回覆率整體與 GPT-4 相當，表現優於 Mistral-8x22B。

硬體適配上，0.5B 和 1.5B 適合嵌入移動端或輕薄筆記本執行；7B 在消費級顯示卡（如 16GB 視訊記憶體裝置）上即可流暢部署；72B 則需要多卡配置或通過量化版本在高效能單卡上跑。生態方面，vLLM、Ollama、LM Studio、llama.cpp 和 MLX 等常用工具已完成對 Qwen2 的支援。

開源許可方面，除了 Qwen2-72B 沿用原有的 Qianwen 許可協議外，0.5B、1.5B、7B 和 57B-A14B 四款模型全部轉向寬鬆的 Apache 2.0 協議，程式碼與權重已同步上線 Hugging Face 和 ModelScope。

為什麼重要

如果你需要一個真正具備實用級中文能力、同時代碼和長文件處理不掉鏈子的本地模型，Qwen2 是目前最成熟的備選之一。尤其是 Qwen2-7B 搭配 128K 上下文和 Apache 2.0 協議，給獨立開發者搭建本地 Agent 或私有知識庫提供了一個極高價效比的起點。

對行業而言，Qwen2 證明了開源模型不僅能在基準上與 Llama 3 正面交鋒，還在多語言適配和上下文視窗上跑得更快。中小尺寸改用 Apache 2.0 協議，也掃清了企業將模型嵌入商業產品的合規顧慮。