MiniCPM-o 4.5：9B 全模态端侧模型，支持边看边聊与主动打断

MiniCPM-o 4.5 是 OpenBMB 开源的 9B 参数全模态模型，能让你在本地设备上实现类似科幻电影般的实时音视频互动。

它最大的特点是全双工流式交互。你可以打开摄像头对着桌面上的物体，一边展示一边说话，它能边看边听边实时用语音回答你，不用像传统大模型那样等你说完一段再停顿几秒生成文本转语音。

更特别的是打断机制。不仅你可以随时出声打断它的回答，它还会以每秒 1 次的频率持续分析接收到的音视频流，在发现异常或需要补充时自主插话提醒，交流节奏非常像两个真人面对面聊天。

怎么做到的与实际表现

MiniCPM-o 4.5 采用了端到端的全模态架构，底层由 SigLip2、Whisper-medium、CosyVoice2 和 Qwen3-8B 组合连接而成，所有模态编码器和解码器在隐空间直接打通。

为了让音视频流与输出完全同步，它引入了时分复用机制，把并行的音视频流切分成毫秒级的时间片喂给底座模型，同时让文本与语音 token 交替解码，从而支持超过 1 分钟的稳定长语音输出。

除了流式对话，它还继承了声音克隆能力。只要给它一段简短的参考音频，它就能模仿对应音色进行角色扮演，克隆表现甚至优于原版 CosyVoice2。

在基准测试中，9B 参数的 MiniCPM-o 4.5 在 OpenCompass 视觉评测上拿到了 77.6 分，超越了 GPT-4o 与 Gemini 2.0 Pro，接近 Gemini 2.5 Flash。在英文文档解析基准 OmniDocBench 上，它的端到端表现甚至压过了 Gemini-3 Flash 和 GPT-5。

硬件要求与怎么跑起来

模型权重现已完全开源，未量化版本大小约 23.4GB，单张 RTX 4090 显卡即可完整载入运行。

如果你没有高规格专业显卡，官方也同步提供了 16 种不同尺寸的 int4 和 GGUF 量化版本，支持通过 llama.cpp 或 Ollama 直接在 MacBook 或普通电脑的 CPU 上跑起来。

高并发服务方面，它已经兼容 vLLM 和 SGLang。官方在 Hugging Face、GitHub 上开源了全部代码和模型，同时提供了一个可以直接在本地 Mac 或 GPU 机器上部署的实时网页 Demo。

为什么重要

MiniCPM-o 4.5 证明了全双工实时多模态交互不再是大厂云端闭源模型的专利。对于想要做桌面 AI 伴侣、车载语音助手或可穿戴视觉设备的开发者来说，它提供了一个完全本地化、低延迟且可控的 9B 现成底座。

我们认为，它最聪明的地方在于把全双工和 1Hz 主动决策结合起来，彻底摆脱了传统问答式对话的呆板感。不过要真正在端侧实现丝滑的多流并发，对设备的内存带宽和散热依然是不小的考验，但它无疑给开源端侧 AI 树立了一个极具实用价值的标杆。