OpenAI 上線 Ultrafast 模式:GPT-5.6 Sol 快 14 倍,每秒 750 token
OpenAI 聯合 Cerebras 推出 API 新層級 Ultrafast 模式,讓 GPT-5.6 Sol 輸出速度達每秒 750 token,比標準處理快 14 倍。過去追求低延遲通常要犧牲模型尺寸,現在前沿大模型也能直接進入即時響應場景。目前該服務處於有限預覽階段。
OpenAI 聯合 Cerebras 推出 API 新層級 Ultrafast 模式,讓 GPT-5.6 Sol 輸出速度達每秒 750 token,比標準處理快 14 倍。過去追求低延遲通常要犧牲模型尺寸,現在前沿大模型也能直接進入即時響應場景。目前該服務處於有限預覽階段。