Liquid AI 開源決策模型 d1-3B：端側響應低至 50 毫秒

Liquid AI 開源的 d1-3B 是一個專為判斷和分類任務設計的 31 億引數多模態決策模型，基於其 LFM2.5-VL-3B 架構後訓練而來。

它完全不做開放式文本聊天，也不逐字生成回覆。當你餵給它一段文本、結構化 JSON 或圖片，並附上一組問題時，模型會在單次前向傳播中直接輸出經過標定的結構化判斷，整個過程不產生多餘的輸出 token。

它能做什麼

d1-3B 適合被嵌入各種自動化流水線裡充當快速裁判。比如客服系統的工單分揀與意圖識別、內容安全稽核、檢索重排、AI Agent 的安全護欄，以及工業場景下的視覺質檢。

在提問方式上，它遵循決策索引規範，支援三類常見判斷。第一類是非黑即白的二選一判斷；第二類是從給定名稱與描述的選項中做多選一分類；第三類是按兩級到十級的標準進行有序打分。模型返回的結果直接帶有置信度和各選項的機率分佈，不需要開發者寫正則去解析模型的回覆。

在能力基準上，d1-3B 在 0.2.1 版決策索引測試中拿到 48.57 分。官方資料顯示，這一成績超過了所有 4B 和 9B 級別的同類模型，也高過 36B 規模的 Decider 35B-A3B。在 11 項公開視覺評測中，它的平均得分達到 74.1，保持了底座視覺語言模型的水準。

速度與硬體要求

單次前向傳播省去了自迴歸解碼的開銷，因此 d1-3B 的響應速度非常快。在端側和消費級硬體上，這種架構優勢尤其明顯。

在臺式機常用的輝達 RTX 4090 顯示卡上，開啟編譯最佳化後單次決策僅需 8 毫秒；在 AMD MI325X 上為 9 毫秒；在蘋果 M5 Pro 晶片上大約耗時 30 毫秒。

而在邊緣計算裝置上，它同樣能做到低延遲響應。在輝達 Jetson AGX Thor 上單次判定為 16 毫秒，在 Jetson AGX Orin 上為 26 毫秒，即使在算力較弱的 Jetson Orin Nano 上，也只需 50 毫秒就能完成單次決策。

模型總引數量為 31.2 億，上下文長度為 32768 個 token，視覺編碼器採用了 400M 引數的 SigLIP2 NaFlex。執行它需要安裝 5.14 以上版本的 transformers 庫，支援通過 vLLM、SGLang 部署為相容 OpenAI 介面的服務，也可以直接通過 Docker 映象拉起。想快速體驗的開發者可以在 Hugging Face 搜尋模型名稱，其主頁提供了包含 10 個用例的線上試玩空間。

為什麼重要

對於需要搭建 Agent 路由、稽核過濾或端側視覺判斷的開發者來說，d1-3B 非常值得一試。以前為了讓大模型做個分類或判斷，往往需要呼叫大尺寸聊天模型並等待其逐字吐出結構化文本，既耗費視訊記憶體又容易因格式錯誤崩潰；d1-3B 把它收攏成了單次計算，把延遲壓到了幾十毫秒以內。

這種把「決策」與「生成」徹底解耦的做法很聰明。我們認為，未來端側裝置並不需要執行一個無所不包的龐大聊天模型，反而是這種輕量、快速、專職負責狀態判斷的專用模型，更適合嵌入機器人、智慧硬體和工業質檢的第一線。