OpenAI 上线 Ultrafast 模式:GPT-5.6 Sol 快 14 倍,每秒 750 token
OpenAI 联合 Cerebras 推出 API 新层级 Ultrafast 模式,让 GPT-5.6 Sol 输出速度达每秒 750 token,比标准处理快 14 倍。过去追求低延迟通常要牺牲模型尺寸,现在前沿大模型也能直接进入实时响应场景。目前该服务处于有限预览阶段。
OpenAI 联合 Cerebras 推出 API 新层级 Ultrafast 模式,让 GPT-5.6 Sol 输出速度达每秒 750 token,比标准处理快 14 倍。过去追求低延迟通常要牺牲模型尺寸,现在前沿大模型也能直接进入实时响应场景。目前该服务处于有限预览阶段。