跳到正文
IFAI

大模型

Z.ai 发布 GLM-5.3-Flash:320B 参数仅活 18B,调用成本降至十分之一

首次发布 传播指数 58

Z.ai 发布多模态大模型 GLM-5.3-Flash。其总参数达 320B 但激活参数仅 18B,单任务调用成本仅 0.045 美元,降至同类模型的十分之一。它在代码和智能体基准上大幅超越前代并接近 Claude Opus 4.8,且完全基于中国 AI 芯片运行。

Z.ai 发布 GLM-5.3-Flash:320B 参数仅活 18B,调用成本降至十分之一
图:marktechpost.com

前阵子在 OpenCode 和 OpenRouter 上悄悄测试、代号叫「Ox Alpha」的神秘模型,底细终于揭晓了。

Z.ai 正式发布了开源多模态模型 GLM-5.3-Flash。它采用 MoE 架构,总参数量 320B,但每个 token 实际只激活 18B。它拥有 100 万 token 的超长上下文窗口,支持图像和视频输入,权重直接以 MIT 协议开源在 Hugging Face 上。更重要的是价格:API 价格打到了同类模型的大约十分之一。

把 100 万上下文跑出白菜价

大模型把上下文拉长到百万级别并不罕见,罕见的是还能便宜又省显存。GLM-5.3-Flash 是 GLM-5 系列里第一个原生多模态模型,基于 30 万亿 token 的多模态语料从头训练。

为了压榨效率,Z.ai 在架构上动了三处刀:首先是混合注意力机制,45 层的语言模型里交替使用了 KDA 线性注意力和 NoPE 稀疏 MLA 注意力,线性注意力管局部关联,稀疏注意力负责从全局抓关键上下文,每个 token 从 288 个专家中选 8 个激活;其次是用了 IndexPool 技术,把检索 key 向量分组加权池化,将注意力计算量降低了约 3 倍,KV 缓存缩小了 4.4 倍;最后是用流形约束超连接(mHC)优化扩展效率,在总参数量和上一代相当的情况下,激活参数和层数都砍掉了近一半。

官方数据显示,它在 Terminal-Bench 2.1 拿到 84.3 分,DeepSWE v1.1 得分 63.4,远超 GLM-5.2 的 46.2 分,内部编程基准测试已经逼近 Claude Opus 4.8。

另一个隐藏细节是推理芯片。Z.ai 透露,早先匿名内测的一整周里,底层完全运行在国产 AI 芯片上。他们自研了基于 SGLang 的服务引擎,把编码、预填充和解码环节全部解耦拆分,在数万张加速卡集群上拿到了 3 倍的端到端吞吐提升。

便宜是真便宜,但自己部署门槛不低

虽然挂着 MIT 开源协议,但要把它搬回自己机房并不轻松。默认的 FP8 权重在不计 KV 缓存前就有大约 306 GiB,当前的 vLLM 部署方案只支持 NVIDIA Hopper 及以上架构。也就是说,自建推理至少得准备 8 卡 GPU 节点或者 GB200 机架,对大部分中小团队来说,老老实实用云端 API 才是现实选择。

好在 API 定价极其激进:输入每百万 token 0.15 美元,命中缓存直接降到 0.03 美元,输出每百万 token 0.50 美元。在第三方评测机构 Artificial Analysis 的基准测试中,它拿下了 57 分的智能指数,折扣档位折合每个任务仅需 0.045 美元。

不过它也不是没有短板。Artificial Analysis 的实测指出,该模型的生成速度不算快,输出约 48.7 token/秒,首字延迟 1.52 秒,整体说话风格偏啰嗦;视觉能力也是相对薄弱的一环,在 BabyVision 和 MVbench 等多模态评测中明显落后于 Gemini 3.7 Flash。

为什么重要

对开发者和软件团队来说,GLM-5.3-Flash 最直接的价值就是「能把过去跑不起的重度 Agent 真正落地了」。以前让 AI 读整个仓库、做百万级日志或长合同分析、执行浏览器端自动化,调用旗舰模型的账单几分钟就能让人肉疼。现在这个成本只要十分之一,GLM Coding Plan 的各项订阅额度也直接翻了三倍,开发者完全可以大胆放它去刷终端和代码任务。

我们认为,Z.ai 这次走了一步极其务实的棋:与其在参数规模上跟闭源霸主硬拼极限智力,不如在架构和工程层面把「可用智能」的落地成本死死打下来。用稀疏混合注意力砍 KV 缓存、通过国产算力集群做全栈自研解耦,证明了即便在硬件受限的环境下,靠模型设计与软件优化依然能打出强悍的成本护城河。

当然隐患也很明显。视觉能力落后于同级别的 Flash 模型,意味着它在复杂图像推理场景还不顶用;自建部署对显卡代际和显存规格的严苛要求,也让「开源」更多惠及了中大型团队,小团队依然得依赖其托管服务。但无论如何,能把逼近顶级梯队的编程能力卖出地摊价,接下来同类轻量模型的定价压力都会陡增。

来源 (2)

  1. [1]
    z.ai(在新标签页打开)原文z.ai
  2. [2]

每日 AI 内容精选