跳到正文
IFAI

大模型

OpenAI 提速 GPT-5.3-Codex-Spark:推理快 30%,每秒狂飆 1200 token

首次發布 傳播指數 46

OpenAI 將程式碼模型 GPT-5.3-Codex-Spark 的推理速度提升約 30%,輸出突破每秒 1200 token。這意味著在即時程式設計和自動化工作流中,程式碼生成幾乎感覺不到延遲。OpenAI 表示後續還會全面提升更多模型的速度。

寫程式碼最煩的不是 AI 犯傻,而是螢幕前那個一直轉的等待游標。

OpenAI 最近在速度上下了狠手。OpenAI 團隊成員在 X 上宣佈,他們把 GPT-5.3-Codex-Spark 的推理速度拉高了約 30%,現在的輸出速度已經突破了每秒 1200 個 token。

敲完回車就出結果

每秒 1200 個 token 是什麼概念?換算下來,一整屏幾十行的複雜函式,基本上就是一眨眼的功夫直接鋪滿編輯器。

這類專為程式設計打造的輕量級 Codex 模型,主打的就是即時補全和互動。OpenAI 這次並沒有公佈底層到底改了哪些推理架構或最佳化運算元,但他們放話表示,全線模型的提速還在後頭。

為什麼重要

在我們看來,程式碼生成這件事,速度往往比想像力更致命。日常寫程式碼時,哪怕延遲多卡半秒鐘,開發者的思路就會被打斷。

當生成速度跨過 1200 tokens/s 這個門檻,AI 就不再只是個「外掛顧問」,而是真正變成了無縫的即時自動補全工具。對於每天依賴 Copilot 類外掛的工程師來說,這種體感提升是最直接的。

這也逼著競品去卷極速推理的底層工程。大模型拼智商的階段過去後,現在大家比拼的是誰能把高頻工具做得像本地執行一樣絲滑。不過速度上去了,在極端追求吞吐的情況下,程式碼邏輯的準確率會不會出現微小抖動,依然值得開發者在日常呼叫時多留個心眼。

來源 (1)

  1. [1]
    @thsottiaux(在新分頁開啟)原文x.com

每日 AI 內容精選