OpenAI 公布实时访问引擎:Codex 与 Sora 撞限额后无缝扣积分
OpenAI 介绍了为 Codex 和 Sora 打造的实时访问引擎。当用户触碰速率上限时,系统会在单次请求中无缝转扣积分继续运行,不再硬性掐断。这套自研架构通过解耦事件与异步扣费,既防止误扣重复扣款,也让创作和编程心流得以延续。

当你正用 Codex 调代码调得起劲,或者在 Sora 里生成视频刚摸到感觉,屏幕突然弹出一句请稍后再试,这种硬中断几乎能瞬间浇灭所有创作欲。
OpenAI 技术团队成员 Jonah Cohen 发文解释了他们如何彻底重构 Codex 和 Sora 的访问控制架构。核心变化很简单:OpenAI 打造了一套把速率限制和积分余额融为一体的实时访问引擎,当用户用完常规额度后,系统会自动无缝切换到积分扣费,不再粗暴弹窗拦截。
把权限判断做成瀑布流
过去处理 AI 服务用量通常只有两条路。要么设死频次上限,用完就让用户等;要么从第一个 token 开始按量收费,但这样对早期试探性使用的用户非常不友好。
OpenAI 既不能简单调高限流,因为这会击穿服务器算力并破坏公平性;也不能完全依赖传统的异步计费系统,因为计费延迟会导致透支和账单对账问题。
最后他们把权限判断重构成了一个决策瀑布流。系统不再二元地判断这次请求允不允许,而是实时判断允许使用多少、从哪里扣除。免费额度、订阅频次、促销活动、积分和企业特权全都在同一个决策栈里,用户在同一次请求里就能完成额度用尽到消耗积分的平滑过渡。
OpenAI 透露,他们评估过现有的第三方计量与计费平台,但这些平台更适合做发票和对账报表,无法在用户触碰上限的几毫秒内做出确定性判断,最终逼得他们只能完全自研。
宁愿扣超退款,也不让账单算错
这套自研系统的底层逻辑来源于企业级客户的刚需:每一笔账都必须能被数学证明是准确的。
系统拆分成了三套相互驱动的数据集:用户到底做了什么的使用事件、决定收多少钱的计费事件,以及实际扣减余额的更新记录。三者完全解耦,随时可以离线重放和对账。
每个事件都带上了唯一的幂等键,哪怕系统重启或重试,也绝对不会发生重复扣费。为了保证审计轨迹严谨,余额更新实际上是在几毫秒的极短异步时间内完成的。
如果因为这微小的延迟导致系统不小心扣超了积分,OpenAI 的策略是自动给用户退款。他们宁愿承担短时间透支并主动补齐差额,也绝不让用户在并发操作时被卡住。
为什么重要
对普通用户和重度创作者来说,这解决了生成式 AI 工具最令人烦躁的心智负担。过去很多人用 Sora 生成视频时都要掐着手指算剩余次数,一旦进入心流状态很容易被强制打断。现在只要账户里备一点积分,就可以像插上无限续航电池一样把活干完,不用中途被迫换号或等冷却时间。
我们认为,OpenAI 这一步走得相当务实,甚至可以说是生成式 AI 商业化基础设施走向成熟的标志。很多做 AI 应用的团队以为计费只是调一下 Stripe 的接口,但在高并发、高算力消耗的生成场景下,访问控制本质上就是算力调度的一部分。
它给行业指明了一条折中路线:前端用订阅制和额度上限平抑高峰期流量,后端用付费积分给高净值用户的紧迫需求开绿灯。这种混合模式大概率会逼着 Anthropic 和 Google 等对手在各自的代码与多模态工具里跟进类似的混合扣费架构。
不过这也留了一个潜在隐患。当额度耗尽的提示变得越来越隐形,用户很容易在高度沉浸的创作中不知不觉烧掉大量积分。如何在不打断用户心流的同时,提供足够清晰的实时成本感知,看起来是 OpenAI 接下来必须面对的体验课题。
来源 (1)
- openai.com(在新标签页打开)原文openai.com