OpenAI 上線 Ultrafast 模式：GPT-5.6 Sol 快 14 倍，每秒 750 token

過去在大模型圈子裡，大家預設遵循一條潛規則：要聰明，就得忍受它慢吞吞地吐字；要秒回，就只能切到又輕又小的縮水版模型。

OpenAI 打算把這個權衡打破。他們在自家的 API 上線了一個叫 Ultrafast 的全新服務層級，主角是目前最強的 GPT-5.6 Sol。在定製晶片廠商 Cerebras 的加持下，這個模式能跑出每秒 750 個 output token 的生成速度，足足比標準處理快了 14 倍。

每秒 750 token 到底有多離譜

很多人對每秒 750 token 沒概念。舉個直觀的對比：目前市面上主流的 Grok、Claude 或者 GPT 標準處理，輸出速度大多在每秒 60 多 token 晃悠；國產的 GLM 5.2 跑在 111 token 左右；就算主打高速的 Gemini 3.7 Flash，速度也就在 340 token 附近。也就是說，Ultrafast 相當於把前沿模型的推斷速度直接翻到了競品快模型的兩倍以上。

TechCrunch 提到，像 Anthropic 的 Claude 雖然也有 Fast mode，但根本夠不到這個量級。在實際演示裡，標準版模型還在逐行擠字，Ultrafast 這邊幾秒鐘就已經吐出了一整屏完整的分析報告。

做到這一步的核心，是 OpenAI 和 Cerebras 的深度繫結。Cerebras 靠著巨大的晶圓級晶片專攻低延遲推理，把大模型極度吃記憶體頻寬和互聯開銷的瓶頸給硬砸開了。

誰在爭分奪秒地用它

速度快了 14 倍，最直接的變化是把以前必須離線做的事情，拉進了即時會話。

根據 OpenAI 透露，首批測試名單裡已經有 Jane Street、Podium、Basis 和 Rogo 這些名字。其中最典型的場景是線上突發故障排查（Incident Response）。系統一旦宕機，每秒鐘都在虧錢，工程團隊需要同時翻日誌、看鏈路追蹤、查剛上線的程式碼提交，以前讓大模型分析得等半天，現在它可以一邊盯著瞬息萬變的資料流，一邊幫工程師草擬修復方案。

再比如量化交易與金融風控，行情幾毫秒就變一次，只有這種吞吐量才能趕在市場波動前完成邏輯梳理；在電商結賬時，AI 可以在使用者猶豫撤單的幾秒核心對庫存並給出方案；而科研人員原本得掛機跑一整夜的批處理實驗，現在能在一個下午打上好幾個來回。

不過普通人現在還用不上。該服務目前屬於小範圍定向預覽，主要是算力極其緊俏，官方表示會隨著容量提升逐步向更多企業放開。

為什麼重要

我們認為，Ultrafast 的出現標誌著大模型競爭的主戰場正在發生微妙的漂移：從純粹比拼基準測試的智力高低，轉向比拼單位時間內能完成多少高價值計算。

對企業和開發者來說，這直接解決了「大腦太重」的落地死結。以前做語音互動或者線上排錯，工程團隊往往只能忍痛用小模型兜底，導致智商常常不線上；如果每秒 750 token 的前沿智慧成為基準，許多原本停留在演示階段的複雜 Agent 才能真正跑進核心業務。

對行業格局而言，這更像是 OpenAI 給輝達主導的推理硬體生態投下的一顆震盪彈。長期以來 GPU 叢集在吞吐量最佳化上更偏向批處理，而在單使用者極致延遲上，專用晶片架構開始展現恐怖的代差優勢。OpenAI 押注 Cerebras，不僅逼著競品加速自研低延遲推理方案，也在分流底層算力的採購籌碼。

當然，隱患也很明顯。Cerebras 這類晶圓級方案的良率、部署成本以及擴充套件性一直飽受爭議。如果 Ultrafast 的呼叫成本居高不下，或者產能遲遲跟不上，它很可能長時間淪為極少數華爾街對沖基金和大型科技公司的專屬玩具。但無論如何，當大模型能跟上人類的思維節奏甚至快過手指時，軟體的互動邏輯就已經徹底變了。