面壁智慧開源 MiniCPM-V 4.6：1.3B 端側模型，6GB 記憶體流暢跑

很多人總覺得，大模型一旦縮水到 1B 左右，基本上就只剩個架子，除了打打招呼很難幹正經活。

但這次面壁智慧拿出來的東西，偏偏要跟這個常識較勁。

面壁智慧聯合清華大學以及 OpenBMB 開源社群，正式開源了新一代端側多模態大模型 MiniCPM-V 4.6。這個模型只有 1.3B 引數，但在手機或者輕量裝置上，僅需大約 6GB 記憶體就能流暢跑起來。

引數不大，胃口卻格外小

說白了，端側多模態模型最怕兩件事：一是視訊記憶體吃不消，二是跑得太慢太費電。

MiniCPM-V 4.6 是該系列裡迄今為止引數最小的一款，但官方給出的評測資料相當搶眼。在通用圖文理解、數理推理、文件 OCR 和影片時序理解等任務上，它的 Instruct 和 Thinking 兩個版本都壓過了阿里 Qwen3.5-0.8B 和谷歌 Gemma4-E2B-it。

更有意思的是執行效率。在 Artificial Analysis 榜單評測裡，MiniCPM-V 4.6 1.3B 非推理版本僅消耗了 540 萬 Token，只有 Qwen3.5-0.8B 非推理版本（1.01 億 Token）的十九分之一，更是其推理版本（2.33 億 Token）的四十三分之一左右。

換句話說，它不僅沒有因為身材小而變笨，反而把運算時的計算開銷大幅砍掉了。

怎麼做到又小又快的？

能跑出這種反常識的效率，核心來自兩處底層改造。

首先是面壁與清華聯合研發的 LLaVA-UHD v4 架構。它在 ViT 內部做了視覺 Token 早壓縮，直接把影像編碼的計算量壓低了 55.8%。

其次是它提供了 4 倍和 16 倍的混合視覺壓縮模式。如果你要看超清文件，就選精細模式；如果是在低算力裝置上搞即時互動，就切到高壓縮檔位，兼顧速度。

在處理一張 3132×3132 的超高畫質大圖時，它的首字響應延遲大概只有 75.7 毫秒，比同基座規模的 Qwen3.5-0.8B 快了 2.2 倍。單張 RTX 4090 顯示卡每秒能處理近 55 張高畫質圖。

目前這套模型已經在 GitHub 和 Hugging Face 全面開放，還提供了 iOS、Android 和鴻蒙可用的 Testflight 版本。生態方面，它適配了 vLLM、llama.cpp、Ollama 等工具，開發者手裡只要有一張 4090，就能自己搞定全流程微調。

為什麼重要

我們認為，端側模型的競爭焦點正在發生變化：大家不再單純比拼模型被砍得有多小，而是開始死磕每一塊錢算力能換來多少有用資訊。

對普通開發者和中小企業來說，這降低了多模態落地的門檻。以前要在端側做圖文識別或輕量助手，要麼呼叫雲端 API 承擔昂貴的網路和 Token 賬單，要麼強行塞進臃腫的模型導致手機發燙卡頓。現在只要 6GB 記憶體和一張 4090，就能在本地把整套鏈路搭起來。

對整個行業而言，MiniCPM-V 4.6 給端側模型打了一個樣。它證明了所謂「小模型必閹割」只是架構設計偷懶的藉口。通過更聰明的視覺 Token 壓縮，小引數模型一樣可以在特定場景下擁有極高的智慧密度。

不過也要看到，1.3B 模型的上限畢竟擺在那裡，面對極其複雜的開放式長鏈推理，它依然無法取代百億甚至千億引數的雲端巨獸。但放在智慧手錶、車機以及各類隨身硬體上，這類精悍的端側模型，已經足夠當一個稱職的工業級助手了。