Liquid AI 开源决策模型 d1-3B：端侧响应低至 50 毫秒

Liquid AI 开源的 d1-3B 是一个专为判断和分类任务设计的 31 亿参数多模态决策模型，基于其 LFM2.5-VL-3B 架构后训练而来。

它完全不做开放式文本聊天，也不逐字生成回复。当你喂给它一段文本、结构化 JSON 或图片，并附上一组问题时，模型会在单次前向传播中直接输出经过标定的结构化判断，整个过程不产生多余的输出 token。

它能做什么

d1-3B 适合被嵌入各种自动化流水线里充当快速裁判。比如客服系统的工单分拣与意图识别、内容安全审核、检索重排、AI Agent 的安全护栏，以及工业场景下的视觉质检。

在提问方式上，它遵循决策索引规范，支持三类常见判断。第一类是非黑即白的二选一判断；第二类是从给定名称与描述的选项中做多选一分类；第三类是按两级到十级的标准进行有序打分。模型返回的结果直接带有置信度和各选项的概率分布，不需要开发者写正则去解析模型的回复。

在能力基准上，d1-3B 在 0.2.1 版决策索引测试中拿到 48.57 分。官方数据显示，这一成绩超过了所有 4B 和 9B 级别的同类模型，也高过 36B 规模的 Decider 35B-A3B。在 11 项公开视觉评测中，它的平均得分达到 74.1，保持了底座视觉语言模型的水准。

速度与硬件要求

单次前向传播省去了自回归解码的开销，因此 d1-3B 的响应速度非常快。在端侧和消费级硬件上，这种架构优势尤其明显。

在台式机常用的英伟达 RTX 4090 显卡上，开启编译优化后单次决策仅需 8 毫秒；在 AMD MI325X 上为 9 毫秒；在苹果 M5 Pro 芯片上大约耗时 30 毫秒。

而在边缘计算设备上，它同样能做到低延迟响应。在英伟达 Jetson AGX Thor 上单次判定为 16 毫秒，在 Jetson AGX Orin 上为 26 毫秒，即使在算力较弱的 Jetson Orin Nano 上，也只需 50 毫秒就能完成单次决策。

模型总参数量为 31.2 亿，上下文长度为 32768 个 token，视觉编码器采用了 400M 参数的 SigLIP2 NaFlex。运行它需要安装 5.14 以上版本的 transformers 库，支持通过 vLLM、SGLang 部署为兼容 OpenAI 接口的服务，也可以直接通过 Docker 镜像拉起。想快速体验的开发者可以在 Hugging Face 搜索模型名称，其主页提供了包含 10 个用例的在线试玩空间。

为什么重要

对于需要搭建 Agent 路由、审核过滤或端侧视觉判断的开发者来说，d1-3B 非常值得一试。以前为了让大模型做个分类或判断，往往需要调用大尺寸聊天模型并等待其逐字吐出结构化文本，既耗费显存又容易因格式错误崩溃；d1-3B 把它收拢成了单次计算，把延迟压到了几十毫秒以内。

这种把「决策」与「生成」彻底解耦的做法很聪明。我们认为，未来端侧设备并不需要运行一个无所不包的庞大聊天模型，反而是这种轻量、快速、专职负责状态判断的专用模型，更适合嵌入机器人、智能硬件和工业质检的第一线。