面壁智能开源 MiniCPM-V 4.6：1.3B 端侧模型，6GB 内存流畅跑

很多人总觉得，大模型一旦缩水到 1B 左右，基本上就只剩个架子，除了打打招呼很难干正经活。

但这次面壁智能拿出来的东西，偏偏要跟这个常识较劲。

面壁智能联合清华大学以及 OpenBMB 开源社区，正式开源了新一代端侧多模态大模型 MiniCPM-V 4.6。这个模型只有 1.3B 参数，但在手机或者轻量设备上，仅需大约 6GB 内存就能流畅跑起来。

参数不大，胃口却格外小

说白了，端侧多模态模型最怕两件事：一是显存吃不消，二是跑得太慢太费电。

MiniCPM-V 4.6 是该系列里迄今为止参数最小的一款，但官方给出的评测数据相当抢眼。在通用图文理解、数理推理、文档 OCR 和视频时序理解等任务上，它的 Instruct 和 Thinking 两个版本都压过了阿里 Qwen3.5-0.8B 和谷歌 Gemma4-E2B-it。

更有意思的是运行效率。在 Artificial Analysis 榜单评测里，MiniCPM-V 4.6 1.3B 非推理版本仅消耗了 540 万 Token，只有 Qwen3.5-0.8B 非推理版本（1.01 亿 Token）的十九分之一，更是其推理版本（2.33 亿 Token）的四十三分之一左右。

换句话说，它不仅没有因为身材小而变笨，反而把运算时的计算开销大幅砍掉了。

怎么做到又小又快的？

能跑出这种反常识的效率，核心来自两处底层改造。

首先是面壁与清华联合研发的 LLaVA-UHD v4 架构。它在 ViT 内部做了视觉 Token 早压缩，直接把图像编码的计算量压低了 55.8%。

其次是它提供了 4 倍和 16 倍的混合视觉压缩模式。如果你要看超清文档，就选精细模式；如果是在低算力设备上搞实时交互，就切到高压缩档位，兼顾速度。

在处理一张 3132×3132 的超高清大图时，它的首字响应延迟大概只有 75.7 毫秒，比同基座规模的 Qwen3.5-0.8B 快了 2.2 倍。单张 RTX 4090 显卡每秒能处理近 55 张高清图。

目前这套模型已经在 GitHub 和 Hugging Face 全面开放，还提供了 iOS、Android 和鸿蒙可用的 Testflight 版本。生态方面，它适配了 vLLM、llama.cpp、Ollama 等工具，开发者手里只要有一张 4090，就能自己搞定全流程微调。

为什么重要

我们认为，端侧模型的竞争焦点正在发生变化：大家不再单纯比拼模型被砍得有多小，而是开始死磕每一块钱算力能换来多少有用信息。

对普通开发者和中小企业来说，这降低了多模态落地的门槛。以前要在端侧做图文识别或轻量助手，要么调用云端 API 承担昂贵的网络和 Token 账单，要么强行塞进臃肿的模型导致手机发烫卡顿。现在只要 6GB 内存和一张 4090，就能在本地把整套链路搭起来。

对整个行业而言，MiniCPM-V 4.6 给端侧模型打了一个样。它证明了所谓「小模型必阉割」只是架构设计偷懒的借口。通过更聪明的视觉 Token 压缩，小参数模型一样可以在特定场景下拥有极高的智能密度。

不过也要看到，1.3B 模型的上限毕竟摆在那里，面对极其复杂的开放式长链推理，它依然无法取代百亿甚至千亿参数的云端巨兽。但放在智能手表、车机以及各类随身硬件上，这类精悍的端侧模型，已经足够当一个称职的工业级助手了。