跳到正文
IFAI

大模型

OpenAI 推出 Decisions API:搭载 GPT-6 Luna,专做应用实时决策

首次发布 传播指数 49

OpenAI 推出由 GPT-6 Luna 驱动的 Decisions API。开发者只要预设问题和候选答案,就能让模型处理内容分类、请求分流或挑选智能体的下一步动作,支持文本和图像输入。目前仅面向部分客户限量预览,计划在数日内全面开放。

图:youtube.com

写过业务逻辑的人都知道,最繁琐的一步往往不是生成大段文本,而是让模型在几个既定选项里做选择。

OpenAI 宣布推出 Decisions API,底层由新模型 GPT-6 Luna 驱动,专门给应用提供实时决策能力。

把复杂的条件分支变成选择题

这套接口的逻辑非常直接:开发者只需要定义好问题,以及一组候选答案。

它支持输入文本或图片作为上下文。比如塞给它一条用户报修留言,再加上几个售后团队的选项,API 就会直接选出最合适的一个,让应用直接执行路由。

除了路由请求,它还能用来做内容分类,或者在工作流里决定 Agent 的下一步动作。目前该接口面向部分 API 客户限量预览,预计在几天内全面开放。

为什么重要

在此之前,开发者想让模型做选择,得自己写一套复杂的 prompt,再用 JSON Schema 强行约束输出,既浪费 token 容易出错,又拉高了延迟。

我们认为,OpenAI 把「做决定」单独抽成一个 API,是把系统路由从重型推理里解耦了出来。用更小更快的 GPT-6 Luna 来跑,性价比明显更高,很适合高频运行的 Agent 系统。

不过看起来也有潜在风险。核心业务逻辑如果完全依赖模型黑盒来选分支,一旦出现偶发误判,排查和兜底成本会比传统代码高得多。值不值得现在接入,主要看你的业务能不能容忍小概率的分类偏差。

来源 (1)

  1. [1]
    x.com(在新标签页打开)原文x.com

每日 AI 内容精选