跳到正文
IFAI

开源项目

Meta 开源 30B 智能体模型 Muse Glimmer:压缩至 20GB 内,单卡可跑

首次发布 传播指数 60

Meta 开源 300 亿参数模型 Muse Glimmer。它专为端侧智能体打造,采用 Apache 2.0 协议,4-bit 量化后体积不足 20GB,单张消费级 GPU 或 Mac 即可运行,支持工具调用与多模态输入。这意味着无需连网,本地就能搭建全天候 AI 助理。

Meta 开源 30B 智能体模型 Muse Glimmer:压缩至 20GB 内,单卡可跑
图:research.meta.ai

Muse Glimmer 是 Meta 开源的 300 亿参数(30B)多模态本地模型。它专为个人设备上的常驻智能体设计,采用宽松的 Apache 2.0 协议,能让你在完全离线的单张消费级显卡或 Mac 上跑起完整的自动化任务。

它能做什么

简单来说,它想做的是一个住在你电脑里的全能助理。不同于普通问答模型,Muse Glimmer 的强项在于长时间跨度的多步推理和工具调用。

它接上了 Meta 自家的 2B 视觉编码器,不仅能看懂文字,还能直接理解交错输入的屏幕截图、图表和文档。

在日常干活时,它支持严格的工具架构调用。如果某一步工具执行出错或返回意外结果,它不会直接卡死报错,而是会尝试自我排查并重新尝试。

此外,它支持 OpenClaw 等主流智能体编排框架,具备可调节的思考强度,并覆盖了超过 100 种语言。从日常日程管理、个人邮件起草,到本地文件整理和代码辅助,它都能在没有网络的情况下独立处理。

怎么塞进单张消费级显卡

以全精度浮点运行时,一个 30B 模型通常需要超过 55GB 显存,普通电脑根本吃不消。

Meta 采用了约 4-bit 的量化技术,把语言模型体积压缩到了 20GB 以内。官方提供的 K-Quant-17GB 版本,连同视觉模块和缓存一起,能稳稳塞进 24GB 或 32GB 显存的设备里。

为了解决大模型在本地单字蹦、推理慢的问题,Muse Glimmer 还搭配了一个基于 DFlash 的轻量草稿模型。它通过推测解码技术一次性预测整组 token,再由主模型并行验证,大幅提升了生成速度,在写代码等结构化场景尤其明显。

在硬件支持上,配备单张 RTX 5090 的 PC,或者 M4 Max、M5 Max 的 MacBook,都能流畅运行。开源社区的适配也很迅速,除了 Hugging Face 权重外,llama.cpp、MLX、vLLM、Ollama 和 LM Studio 都在第一时间跟进支持。

跑分表现与业内声音

从官方测试来看,Muse Glimmer 在智能体基准上表现抢眼。在 MCP Atlas 工具调用测试中拿到 75.5 分,SWE-Bench Pro 编程测试中拿下 51.2 分,明显拉开了与 Gemma4-31B 的差距。

不过,社区里也有不同的声音。有视频创作者指出,官方对比表格容易让人误解,在部分项目上它的表现其实不如参数更小的 Qwen3.6-27B。

例如在 OSWorld-Verified 模拟操作测试中,Qwen3.6 拿到了 75.6 分,而 Muse Glimmer 只有 65.9 分;终端测试 TerminalBench 2.1 上也是 Qwen 占优。在第三方评测榜单上,它的整体表现并没有官方宣传得那么全面碾压。

为什么重要

对于重视隐私的开发者、独立创作者以及需要处理敏感数据的本地极客来说,Muse Glimmer 是一个非常值得上手的玩具。Apache 2.0 协议意味着你可以毫无顾虑地拿去商用或魔改。

过去想在本地跑高水平的智能体,要么模型太小智力不够,要么参数太大硬件扛不住。Meta 这次把 30B 级别的多模态推理和自愈能力压缩进单卡门槛,切实推动了本地智能体的实用化进程。

我们认为,它的长板在于工具调用链路的稳定性和快速响应,但在纯通用推理与终端自动化上,面对强劲的开源对手并没有形成断代优势。如果你手头有一台 24GB 显存以上的机器,想要搭建完全属于自己的离线智能体,它绝对是目前最值得优先尝试的基座之一。

来源 (3)

  1. [1]
    research.meta.ai(在新标签页打开)原文research.meta.ai
  2. [2]
    huggingface.co(在新标签页打开)报道huggingface.co
  3. [3]
    youtube.com(在新标签页打开)报道youtube.com

每日 AI 内容精选