跳到正文
IFAI

大模型

OpenAI 推出 Flex processing:响应变慢,API 价格直接砍半

首次发布 传播指数 50

OpenAI 推出 Flex processing 测试版,面向 o3 和 o4-mini 推理模型,以更慢的响应时间换取 API 价格直接减半。该模式适用于模型评估、数据扩充等非生产环境与异步任务,开发者接入 o3 还需完成身份验证。

OpenAI 推出 Flex processing:响应变慢,API 价格直接砍半
图:techcrunch.com

如果你经常用大模型跑后台任务,可能早就发现了一个大冤种现象:大半夜做离线数据标注或者跑评估,既不需要一秒内蹦出字来,也没人在线干等,但账单上的价格却和白天给用户做实时交互一样贵。

OpenAI 终于对这个场景动刀了。4 月 17 日,OpenAI 针对 API 用户推出了名为 Flex processing 的弹性处理模式。核心逻辑很简单:你接受更慢的响应时间,甚至承担偶尔资源不可用的风险,OpenAI 给你把 API 价格直接打对折。

慢一点,换来价格直接腰折

这项服务目前处于测试阶段,先面向 OpenAI 最新发布的两个推理模型开放:旗舰级的 o3 和轻量级的 o4-mini。

按 OpenAI 的说法,Flex 模式主要针对低优先级的非生产环境任务。比如离线做模型评测、数据扩充与清洗,或者任何不需要实时返回的异步工作负载。

对折是实打实的砍了一半。以 o3 为例,标准价格是每百万输入 token 收费 10 美元、输出收费 40 美元;切到 Flex 模式后,直接降到输入 5 美元、输出 20 美元。

至于本来就不算贵的 o4-mini,Flex 模式下每百万输入 token 降到了 0.55 美元,输出降到了 2.20 美元。换算下来,大约 75 万个英文单词的输入,现在只要半美元左右。

便宜不好占,门槛还在后头

不过,想用上 Flex 并不是直接点个开关就行。在发给开发者的邮件里,OpenAI 还同步收紧了权限。

针对根据消费金额划分的 1 至 3 级普通开发者,想要调用 o3 模型,必须先完成新上线的个人身份认证。不仅如此,o3 以及其他模型的推理摘要和流式输出支持,现在也都被关在了实名认证的门槛后面。

OpenAI 之前的说法是,做身份认证是为了防止坏人滥用模型、违反平台政策。但对许多中小开发者来说,这无疑又多了一道合规成本。

为什么重要

我们认为,OpenAI 这次推出弹性计费,本质上是一次被竞争对手逼出来的精细化运营。

就在同一周,Google 刚推出了 Gemini 2.5 Flash,直接把推理模型的性能拉到对齐甚至超越 DeepSeek R1 的水平,而且输入成本更低。当开源和对手们不断在性价比上贴脸开大,OpenAI 顶端模型的昂贵定价就显得越来越刺眼。

从商业逻辑看,这一步走得相当聪明。数据中心的算力从来都不是全天均匀消耗的,云厂商早就习惯了靠竞价实例(Spot Instance)去填补波谷。OpenAI 拿出闲置或低峰算力半价销售,既清理了冗余算力,又留住了那些因为太贵想跳槽去 DeepSeek 或 Google 的开发者。

对开发者而言,如果你的业务里有大量离线标注、长文本分析或批量评测,现在非常值得立刻把代码切到 Flex。哪怕偶尔超时或重试,省下来的都是真金白银。但如果是面向 C 端实时聊天的产品,就千万别碰这个选项,它的延迟和不可用风险完全不适合前台。

看起来,大模型 API 的竞争已经走过了单纯拼智商的第一阶段,现在各家比拼的,是谁能把算力榨得更干、把账单拆得更细。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

话题追踪OpenAI 推理模型的成本问题

这个话题的历次新闻,最新的在上面。

  1. OpenAI 推出 Flex processing:响应变慢,API 价格直接砍半本条
  2. ARC 修正 OpenAI o3 成本估算:解一道难题或烧掉 3 万美元
  3. OpenAI 上线 o1-pro API:能力更强,但百万输出 token 要 600 美元

每日 AI 内容精选