跳到正文
IFAI

大模型

OpenAI 推出 Flex processing:響應變慢,API 價格直接砍半

首次發布 傳播指數 50

OpenAI 推出 Flex processing 測試版,面向 o3 和 o4-mini 推理模型,以更慢的響應時間換取 API 價格直接減半。該模式適用於模型評估、資料擴充等非生產環境與非同步任務,開發者接入 o3 還需完成身份驗證。

OpenAI 推出 Flex processing:響應變慢,API 價格直接砍半
圖:techcrunch.com

如果你經常用大模型跑後臺任務,可能早就發現了一個大冤種現象:大半夜做離線資料標註或者跑評估,既不需要一秒內蹦出字來,也沒人線上乾等,但賬單上的價格卻和白天給使用者做即時互動一樣貴。

OpenAI 終於對這個場景動刀了。4 月 17 日,OpenAI 針對 API 使用者推出了名為 Flex processing 的彈性處理模式。核心邏輯很簡單:你接受更慢的響應時間,甚至承擔偶爾資源不可用的風險,OpenAI 給你把 API 價格直接打對摺。

慢一點,換來價格直接腰折

這項服務目前處於測試階段,先面向 OpenAI 最新發布的兩個推理模型開放:旗艦級的 o3 和輕量級的 o4-mini。

按 OpenAI 的說法,Flex 模式主要針對低優先順序的非生產環境任務。比如離線做模型評測、資料擴充與清洗,或者任何不需要即時返回的非同步工作負載。

對摺是實打實的砍了一半。以 o3 為例,標準價格是每百萬輸入 token 收費 10 美元、輸出收費 40 美元;切到 Flex 模式後,直接降到輸入 5 美元、輸出 20 美元。

至於本來就不算貴的 o4-mini,Flex 模式下每百萬輸入 token 降到了 0.55 美元,輸出降到了 2.20 美元。換算下來,大約 75 萬個英文單詞的輸入,現在只要半美元左右。

便宜不好佔,門檻還在後頭

不過,想用上 Flex 並不是直接點個開關就行。在發給開發者的郵件裡,OpenAI 還同步收緊了許可權。

針對根據消費金額劃分的 1 至 3 級普通開發者,想要呼叫 o3 模型,必須先完成新上線的個人身份認證。不僅如此,o3 以及其他模型的推理摘要和流式輸出支援,現在也都被關在了實名認證的門檻後面。

OpenAI 之前的說法是,做身份認證是為了防止壞人濫用模型、違反平臺政策。但對許多中小開發者來說,這無疑又多了一道合規成本。

為什麼重要

我們認為,OpenAI 這次推出彈性計費,本質上是一次被競爭對手逼出來的精細化運營。

就在同一周,Google 剛推出了 Gemini 2.5 Flash,直接把推理模型的效能拉到對齊甚至超越 DeepSeek R1 的水平,而且輸入成本更低。當開源和對手們不斷在價效比上貼臉開大,OpenAI 頂端模型的昂貴定價就顯得越來越刺眼。

從商業邏輯看,這一步走得相當聰明。資料中心的算力從來都不是全天均勻消耗的,雲廠商早就習慣了靠競價例項(Spot Instance)去填補波谷。OpenAI 拿出閒置或低峰算力半價銷售,既清理了冗餘算力,又留住了那些因為太貴想跳槽去 DeepSeek 或 Google 的開發者。

對開發者而言,如果你的業務裡有大量離線標註、長文本分析或批次評測,現在非常值得立刻把程式碼切到 Flex。哪怕偶爾超時或重試,省下來的都是真金白銀。但如果是面向 C 端即時聊天的產品,就千萬別碰這個選項,它的延遲和不可用風險完全不適合前臺。

看起來,大模型 API 的競爭已經走過了單純拼智商的第一階段,現在各家比拼的,是誰能把算力榨得更幹、把賬單拆得更細。

來源 (1)

  1. [1]
    techcrunch.com(在新分頁開啟)原文techcrunch.com

話題追蹤OpenAI 推理模型的成本問題

這個話題的歷次新聞,最新的在上面。

  1. OpenAI 推出 Flex processing:響應變慢,API 價格直接砍半本則
  2. ARC 修正 OpenAI o3 成本估算:解一道難題或燒掉 3 萬美元
  3. OpenAI 上線 o1-pro API:能力更強,但百萬輸出 token 要 600 美元

每日 AI 內容精選