跳到正文
IFAI

大模型

OpenAI 提速 GPT-6 系列:輸出快 50%,每秒飆到 50 token

首次發布 傳播指數 53

OpenAI 宣佈將 GPT-6 Astra 和 GPT-6.1 Sol 的預設推理速度提升約 50%,生成速率從每秒 30 提升至 50 token。該最佳化覆蓋全部訂閱層級及 OpenCode、Devin 等接入夥伴,兩小時內生效且使用者無需手動設定。

OpenAI 提速 GPT-6 系列:輸出快 50%,每秒飆到 50 token
圖:cryptobriefing.com

OpenAI 宣佈對 GPT-6 Astra 和 GPT-6.1 Sol 進行推理提速,預設生成速度提升約 50%,輸出從每秒 30 token 提高至 50 token。

自動提速 50%,夥伴生態同步受益

這波提速直接覆蓋了全部付費訂閱層級,使用者什麼都不用做,兩小時內就能自動感受到。

除了 OpenAI 自家產品,接入 Sign in With ChatGPT 的第三方合作伙伴也能同步享受到,包括 OpenCode、Pi、Amp 和 Devin 等工具。此外,這些模型還採用了更最佳化的分詞器,處理相同任務消耗的 token 更少。

這也是 OpenAI 啟動的 28 天連更計劃的第一天。官方表示,接下來的 28 天裡,每天都會向程式設計和辦公使用者交付一項實打實的改進,或者帶來一次徹底的重置。

為什麼重要

對於依賴 Devin 或 OpenCode 寫程式碼的開發者來說,每秒 50 token 加上更省 token 的分詞器,意味著等待生成的卡頓感會明顯減輕,呼叫成本也會有所下降。

我們認為,OpenAI 把提速直接下放給第三方合作伙伴和全級別訂閱使用者,這一步走得很聰明,能直接鞏固 ChatGPT 賬戶作為開發者基礎設施的黏性。

不過話說回來,每秒 50 token 算不上極限狂飆,更像是一次日常體驗最佳化。連續 28 天的更新節奏到底能不能每天都拿出真材實料,還得看後面的表現。

來源 (1)

  1. [1]
    x.com(在新分頁開啟)原文x.com

每日 AI 內容精選