TypeSafe 发布决策模型 Jev：不生成文本，比普通大模型快数十倍且输出免费

过去几年，大模型越来越擅长陪人类长篇大论，但写代码的人其实很头痛：让大模型在后端做个简单的分类或安全审核，动辄要等上几秒，还要提防它格式抽风或者胡说八道。

现在有人决定换个思路，干脆把生成文本这个核心能力删掉。

TypeSafe AI 推出结构化决策模型 Jev 并开启早期访问。它的创始人 Diogo Almeida 曾是 OpenAI 的核心研究员，亲手参与打造了 ChatGPT 背后的强化学习方法。在离开 OpenAI 创业两年后，他拿出了这个专门嵌入软件做判断的「System One」模型。

不写废话，只给概率分布

普通大模型像人在打字，必须一个词接着一个词往后猜，速度慢且计算昂贵。如果让它输出 JSON 格式，它随时可能多加个逗号或者编造一段不存在的字段。

Jev 彻底放弃了连续字符串生成，改用一种名为「校准决策强化学习」（RLCD）的方法进行训练。

在调用 Jev 之前，开发者必须预先定义好答案结构，比如是非题、固定分类或者打分区间。输入一段非结构化内容后，Jev 会在硬件层面上并行算出所有预定义选项的概率，并附带经过严格校准的置信度得分。

因为输出完全被预设的类型规则锁死，Jev 在数学上杜绝了类型错误和格式幻觉。它的端到端响应时间只有 70 到 500 毫秒，比主流前沿大模型快 40 到 200 倍。

它的收费方式也很极端：输入每百万 token 只要 0.042 美元，也就是 10 亿 token 42 美元，而输出 token 直接免费。

开发者拿它打游戏和做中间件

虽然还在测试阶段，但不少开发者已经把它塞进了实际业务。

构建智能体基础设施的 Vercel 工程师 Pranit Sharma 表示，他们之前用 ChatGPT Luna 5.6 审核命令安全性，换成 Jev 之后，速度提升了 5 到 18 倍，准确度也更高。

Bryo AI 的首席技术官 Nikhil Mudholkar拿它测试企业邮件分类，尽管 Gemini 的准确率略微领先，但成本贵了 10 到 20 倍。他特别提到，Jev 返回的是真实可信的概率分布，非常适合做自动化工作流。

TypeSafe 团队还展示了让 Jev 操作《毁灭战士》（Doom）的实测：模型每秒做 10 次动作决策，一小时的推理成本只有大约 7 美元。

开源工具 Pi 背后的 Earendil 首席技术官 Armin Ronacher 认为，Jev 巧妙地把幻觉问题转化成了开发者的工程阈值。比如置信度达到 95% 就自动放行，只有 50% 就转给人审或者交由昂贵的大模型处理。此外，它也非常适合在多个模型之间做低成本的流量路由。

为什么重要

Jev 的命名源自 19 世纪经济学家提出的「杰文斯悖论」：当一种资源的消耗成本大幅下降时，人们对它的需求反而会成倍爆发。

对开发者来说，Jev 提供了一种前所未有的「智能 if 分支」。以前在代码里加 AI，往往需要写厚厚的提示词来约束格式，还要承受动辄数秒的延迟与不菲的账单。Jev 允许你在几乎不影响软件响应速度的前提下，把模糊匹配、请求分类和防越狱过滤变成极其廉价的常规逻辑。

我们认为，TypeSafe 这一步走得相当清醒。当所有前沿实验室都在追求能写论文、能慢思考推理的「System Two」时，软件世界的大多数底层场景其实只需要几百毫秒就能完成的直觉反应。放弃字符串看似自断经脉，实际上却甩掉了生成式模型的沉重包袱。

不过，它并不是没有局限。预先定义结构意味着你无法用它写邮件或生成创意内容；而且零类型错误不等于判断绝对正确，当选项本身存在歧义时它依然会挑错。此外，官方基准测试主要依赖 OpenAI 和 Anthropic 的大模型打分作为参考标准，在真实复杂业务里的泛化表现，仍需要更多开发者拿到早期访问权限后来验证。