TypeSafe 釋出決策模型 Jev：不生成文本，比普通大模型快數十倍且輸出免費

過去幾年，大模型越來越擅長陪人類長篇大論，但寫程式碼的人其實很頭痛：讓大模型在後端做個簡單的分類或安全稽核，動輒要等上幾秒，還要提防它格式抽風或者胡說八道。

現在有人決定換個思路，乾脆把生成文本這個核心能力刪掉。

TypeSafe AI 推出結構化決策模型 Jev 並開啟早期訪問。它的創始人 Diogo Almeida 曾是 OpenAI 的核心研究員，親手參與打造了 ChatGPT 背後的強化學習方法。在離開 OpenAI 創業兩年後，他拿出了這個專門嵌入軟體做判斷的「System One」模型。

不寫廢話，只給機率分佈

普通大模型像人在打字，必須一個詞接著一個詞往後猜，速度慢且計算昂貴。如果讓它輸出 JSON 格式，它隨時可能多加個逗號或者編造一段不存在的欄位。

Jev 徹底放棄了連續字串生成，改用一種名為「校準決策強化學習」（RLCD）的方法進行訓練。

在呼叫 Jev 之前，開發者必須預先定義好答案結構，比如是非題、固定分類或者打分割槽間。輸入一段非結構化內容後，Jev 會在硬體層面上並行算出所有預定義選項的機率，並附帶經過嚴格校準的置信度得分。

因為輸出完全被預設的型別規則鎖死，Jev 在數學上杜絕了型別錯誤和格式幻覺。它的端到端響應時間只有 70 到 500 毫秒，比主流前沿大模型快 40 到 200 倍。

它的收費方式也很極端：輸入每百萬 token 只要 0.042 美元，也就是 10 億 token 42 美元，而輸出 token 直接免費。

開發者拿它打遊戲和做中介軟體

雖然還在測試階段，但不少開發者已經把它塞進了實際業務。

構建智慧體基礎設施的 Vercel 工程師 Pranit Sharma 表示，他們之前用 ChatGPT Luna 5.6 稽核命令安全性，換成 Jev 之後，速度提升了 5 到 18 倍，準確度也更高。

Bryo AI 的技術長 Nikhil Mudholkar拿它測試企業郵件分類，儘管 Gemini 的準確率略微領先，但成本貴了 10 到 20 倍。他特別提到，Jev 返回的是真實可信的機率分佈，非常適合做自動化工作流。

TypeSafe 團隊還展示了讓 Jev 操作《毀滅戰士》（Doom）的實測：模型每秒做 10 次動作決策，一小時的推理成本只有大約 7 美元。

開源工具 Pi 背後的 Earendil 技術長 Armin Ronacher 認為，Jev 巧妙地把幻覺問題轉化成了開發者的工程閾值。比如置信度達到 95% 就自動放行，只有 50% 就轉給人審或者交由昂貴的大模型處理。此外，它也非常適合在多個模型之間做低成本的流量路由。

為什麼重要

Jev 的命名源自 19 世紀經濟學家提出的「傑文斯悖論」：當一種資源的消耗成本大幅下降時，人們對它的需求反而會成倍爆發。

對開發者來說，Jev 提供了一種前所未有的「智慧 if 分支」。以前在程式碼里加 AI，往往需要寫厚厚的提示詞來約束格式，還要承受動輒數秒的延遲與不菲的賬單。Jev 允許你在幾乎不影響軟體響應速度的前提下，把模糊匹配、請求分類和防越獄過濾變成極其廉價的常規邏輯。

我們認為，TypeSafe 這一步走得相當清醒。當所有前沿實驗室都在追求能寫論文、能慢思考推理的「System Two」時，軟體世界的大多數底層場景其實只需要幾百毫秒就能完成的直覺反應。放棄字串看似自斷經脈，實際上卻甩掉了生成式模型的沉重包袱。

不過，它並不是沒有侷限。預先定義結構意味著你無法用它寫郵件或生成創意內容；而且零型別錯誤不等於判斷絕對正確，當選項本身存在歧義時它依然會挑錯。此外，官方基準測試主要依賴 OpenAI 和 Anthropic 的大模型打分作為參考標準，在真實複雜業務裡的泛化表現，仍需要更多開發者拿到早期訪問許可權後來驗證。