跳到正文
IFAI

大模型

Z.ai 釋出 GLM-5.3-Flash:320B 引數僅活 18B,呼叫成本降至十分之一

首次發布 傳播指數 58

Z.ai 釋出多模態大模型 GLM-5.3-Flash。其總引數達 320B 但啟用引數僅 18B,單任務呼叫成本僅 0.045 美元,降至同類模型的十分之一。它在程式碼和智慧體基準上大幅超越前代並接近 Claude Opus 4.8,且完全基於中國 AI 晶片執行。

Z.ai 釋出 GLM-5.3-Flash:320B 引數僅活 18B,呼叫成本降至十分之一
圖:marktechpost.com

前陣子在 OpenCode 和 OpenRouter 上悄悄測試、代號叫「Ox Alpha」的神秘模型,底細終於揭曉了。

Z.ai 正式釋出了開源多模態模型 GLM-5.3-Flash。它採用 MoE 架構,總引數量 320B,但每個 token 實際只啟用 18B。它擁有 100 萬 token 的超長上下文視窗,支援影像和影片輸入,權重直接以 MIT 協議開源在 Hugging Face 上。更重要的是價格:API 價格打到了同類模型的大約十分之一。

把 100 萬上下文跑出白菜價

大模型把上下文拉長到百萬級別並不罕見,罕見的是還能便宜又省視訊記憶體。GLM-5.3-Flash 是 GLM-5 系列裡第一個原生多模態模型,基於 30 萬億 token 的多模態語料從頭訓練。

為了壓榨效率,Z.ai 在架構上動了三處刀:首先是混合注意力機制,45 層的語言模型裡交替使用了 KDA 線性注意力和 NoPE 稀疏 MLA 注意力,線性注意力管區域性關聯,稀疏注意力負責從全域性抓關鍵上下文,每個 token 從 288 個專家中選 8 個啟用;其次是用了 IndexPool 技術,把檢索 key 向量分組加權池化,將注意力計算量降低了約 3 倍,KV 快取縮小了 4.4 倍;最後是用流形約束超連線(mHC)最佳化擴充套件效率,在總引數量和上一代相當的情況下,啟用引數和層數都砍掉了近一半。

官方資料顯示,它在 Terminal-Bench 2.1 拿到 84.3 分,DeepSWE v1.1 得分 63.4,遠超 GLM-5.2 的 46.2 分,內部程式設計基準測試已經逼近 Claude Opus 4.8。

另一個隱藏細節是推理晶片。Z.ai 透露,早先匿名內測的一整週裡,底層完全執行在國產 AI 晶片上。他們自研了基於 SGLang 的服務引擎,把編碼、預填充和解碼環節全部解耦拆分,在數萬張加速卡叢集上拿到了 3 倍的端到端吞吐提升。

便宜是真便宜,但自己部署門檻不低

雖然掛著 MIT 開源協議,但要把它搬回自己機房並不輕鬆。預設的 FP8 權重在不計 KV 快取前就有大約 306 GiB,當前的 vLLM 部署方案只支援 NVIDIA Hopper 及以上架構。也就是說,自建推理至少得準備 8 卡 GPU 節點或者 GB200 機架,對大部分中小團隊來說,老老實實用雲端 API 才是現實選擇。

好在 API 定價極其激進:輸入每百萬 token 0.15 美元,命中快取直接降到 0.03 美元,輸出每百萬 token 0.50 美元。在第三方評測機構 Artificial Analysis 的基準測試中,它拿下了 57 分的智慧指數,折扣檔位摺合每個任務僅需 0.045 美元。

不過它也不是沒有短板。Artificial Analysis 的實測指出,該模型的生成速度不算快,輸出約 48.7 token/秒,首字延遲 1.52 秒,整體說話風格偏囉嗦;視覺能力也是相對薄弱的一環,在 BabyVision 和 MVbench 等多模態評測中明顯落後於 Gemini 3.7 Flash。

為什麼重要

對開發者和軟體團隊來說,GLM-5.3-Flash 最直接的價值就是「能把過去跑不起的重度 Agent 真正落地了」。以前讓 AI 讀整個倉庫、做百萬級日誌或長合同分析、執行瀏覽器端自動化,呼叫旗艦模型的賬單幾分鐘就能讓人肉疼。現在這個成本只要十分之一,GLM Coding Plan 的各項訂閱額度也直接翻了三倍,開發者完全可以大膽放它去刷終端和程式碼任務。

我們認為,Z.ai 這次走了一步極其務實的棋:與其在引數規模上跟閉源霸主硬拼極限智力,不如在架構和工程層面把「可用智慧」的落地成本死死打下來。用稀疏混合注意力砍 KV 快取、通過國產算力叢集做全棧自研解耦,證明了即便在硬體受限的環境下,靠模型設計與軟體最佳化依然能打出強悍的成本護城河。

當然隱患也很明顯。視覺能力落後於同級別的 Flash 模型,意味著它在複雜影像推理場景還不頂用;自建部署對顯示卡代際和視訊記憶體規格的嚴苛要求,也讓「開源」更多惠及了中大型團隊,小團隊依然得依賴其託管服務。但無論如何,能把逼近頂級梯隊的程式設計能力賣出地攤價,接下來同類輕量模型的定價壓力都會陡增。

來源 (2)

  1. [1]
    z.ai(在新分頁開啟)原文z.ai
  2. [2]

每日 AI 內容精選