跳到正文
IFAI

大模型

OpenAI 提速 GPT-5.3-Codex-Spark:推理快 30%,每秒狂飙 1200 token

首次发布 传播指数 46

OpenAI 将代码模型 GPT-5.3-Codex-Spark 的推理速度提升约 30%,输出突破每秒 1200 token。这意味着在实时编程和自动化工作流中,代码生成几乎感觉不到延迟。OpenAI 表示后续还会全面提升更多模型的速度。

写代码最烦的不是 AI 犯傻,而是屏幕前那个一直转的等待光标。

OpenAI 最近在速度上下了狠手。OpenAI 团队成员在 X 上宣布,他们把 GPT-5.3-Codex-Spark 的推理速度拉高了约 30%,现在的输出速度已经突破了每秒 1200 个 token。

敲完回车就出结果

每秒 1200 个 token 是什么概念?换算下来,一整屏几十行的复杂函数,基本上就是一眨眼的功夫直接铺满编辑器。

这类专为编程打造的轻量级 Codex 模型,主打的就是实时补全和交互。OpenAI 这次并没有公布底层到底改了哪些推理架构或优化算子,但他们放话表示,全线模型的提速还在后头。

为什么重要

在我们看来,代码生成这件事,速度往往比想象力更致命。日常写代码时,哪怕延迟多卡半秒钟,开发者的思路就会被打断。

当生成速度跨过 1200 tokens/s 这个门槛,AI 就不再只是个「外挂顾问」,而是真正变成了无缝的实时自动补全工具。对于每天依赖 Copilot 类插件的工程师来说,这种体感提升是最直接的。

这也逼着竞品去卷极速推理的底层工程。大模型拼智商的阶段过去后,现在大家比拼的是谁能把高频工具做得像本地运行一样丝滑。不过速度上去了,在极端追求吞吐的情况下,代码逻辑的准确率会不会出现微小抖动,依然值得开发者在日常调用时多留个心眼。

来源 (1)

  1. [1]
    @thsottiaux(在新标签页打开)原文x.com

每日 AI 内容精选