跳到正文
IFAI

開源專案

Meta 開源 30B 智慧體模型 Muse Glimmer:壓縮至 20GB 內,單卡可跑

首次發布 傳播指數 60

Meta 開源 300 億引數模型 Muse Glimmer。它專為端側智慧體打造,採用 Apache 2.0 協議,4-bit 量化後體積不足 20GB,單張消費級 GPU 或 Mac 即可執行,支援工具呼叫與多模態輸入。這意味著無需連網,本地就能搭建全天候 AI 助理。

Meta 開源 30B 智慧體模型 Muse Glimmer:壓縮至 20GB 內,單卡可跑
圖:research.meta.ai

Muse Glimmer 是 Meta 開源的 300 億引數(30B)多模態本地模型。它專為個人裝置上的常駐智慧體設計,採用寬鬆的 Apache 2.0 協議,能讓你在完全離線的單張消費級顯示卡或 Mac 上跑起完整的自動化任務。

它能做什麼

簡單來說,它想做的是一個住在你電腦裡的全能助理。不同於普通問答模型,Muse Glimmer 的強項在於長時間跨度的多步推理和工具呼叫。

它接上了 Meta 自家的 2B 視覺編碼器,不僅能看懂文字,還能直接理解交錯輸入的螢幕截圖、圖表和文件。

在日常幹活時,它支援嚴格的工具架構呼叫。如果某一步工具執行出錯或返回意外結果,它不會直接卡死報錯,而是會嘗試自我排查並重新嘗試。

此外,它支援 OpenClaw 等主流智慧體編排框架,具備可調節的思考強度,並覆蓋了超過 100 種語言。從日常日程管理、個人郵件起草,到本地檔案整理和程式碼輔助,它都能在沒有網路的情況下獨立處理。

怎麼塞進單張消費級顯示卡

以全精度浮點執行時,一個 30B 模型通常需要超過 55GB 視訊記憶體,普通電腦根本吃不消。

Meta 採用了約 4-bit 的量化技術,把語言模型體積壓縮到了 20GB 以內。官方提供的 K-Quant-17GB 版本,連同視覺模組和快取一起,能穩穩塞進 24GB 或 32GB 視訊記憶體的裝置裡。

為了解決大模型在本地單字蹦、推理慢的問題,Muse Glimmer 還搭配了一個基於 DFlash 的輕量草稿模型。它通過推測解碼技術一次性預測整組 token,再由主模型並行驗證,大幅提升了生成速度,在寫程式碼等結構化場景尤其明顯。

在硬體支援上,配備單張 RTX 5090 的 PC,或者 M4 Max、M5 Max 的 MacBook,都能流暢執行。開源社群的適配也很迅速,除了 Hugging Face 權重外,llama.cpp、MLX、vLLM、Ollama 和 LM Studio 都在第一時間跟進支援。

跑分表現與業內聲音

從官方測試來看,Muse Glimmer 在智慧體基準上表現搶眼。在 MCP Atlas 工具呼叫測試中拿到 75.5 分,SWE-Bench Pro 程式設計測試中拿下 51.2 分,明顯拉開了與 Gemma4-31B 的差距。

不過,社群裡也有不同的聲音。有影片創作者指出,官方對比表格容易讓人誤解,在部分專案上它的表現其實不如引數更小的 Qwen3.6-27B。

例如在 OSWorld-Verified 模擬操作測試中,Qwen3.6 拿到了 75.6 分,而 Muse Glimmer 只有 65.9 分;終端測試 TerminalBench 2.1 上也是 Qwen 佔優。在第三方評測榜單上,它的整體表現並沒有官方宣傳得那麼全面碾壓。

為什麼重要

對於重視隱私的開發者、獨立創作者以及需要處理敏感資料的本地極客來說,Muse Glimmer 是一個非常值得上手的玩具。Apache 2.0 協議意味著你可以毫無顧慮地拿去商用或魔改。

過去想在本地跑高水平的智慧體,要麼模型太小智力不夠,要麼引數太大硬體扛不住。Meta 這次把 30B 級別的多模態推理和自愈能力壓縮排單卡門檻,切實推動了本地智慧體的實用化程序。

我們認為,它的長板在於工具呼叫鏈路的穩定性和快速響應,但在純通用推理與終端自動化上,面對強勁的開源對手並沒有形成斷代優勢。如果你手頭有一臺 24GB 視訊記憶體以上的機器,想要搭建完全屬於自己的離線智慧體,它絕對是目前最值得優先嚐試的基座之一。

來源 (3)

  1. [1]
    research.meta.ai(在新分頁開啟)原文research.meta.ai
  2. [2]
    huggingface.co(在新分頁開啟)報導huggingface.co
  3. [3]
    youtube.com(在新分頁開啟)報導youtube.com

每日 AI 內容精選