OpenAI 上线 Ultrafast 模式:GPT-5.6 Sol 快 14 倍,每秒 750 token
OpenAI 联合 Cerebras 推出 API 新层级 Ultrafast 模式,让 GPT-5.6 Sol 输出速度达每秒 750 token,比标准处理快 14 倍。过去追求低延迟通常要牺牲模型尺寸,现在前沿大模型也能直接进入实时响应场景。目前该服务处于有限预览阶段。
OpenAI 联合 Cerebras 推出 API 新层级 Ultrafast 模式,让 GPT-5.6 Sol 输出速度达每秒 750 token,比标准处理快 14 倍。过去追求低延迟通常要牺牲模型尺寸,现在前沿大模型也能直接进入实时响应场景。目前该服务处于有限预览阶段。
Cognition 发布专为 Devin 打造的编程模型 SWE-1.7。该模型基于开源的 Kimi K2.7,通过强化学习将性能拉至逼近 GPT-5.5 与 Opus 4.8,且成本大幅降低。目前已在 Devin 全平台上线,借助 Cerebras 芯片实现每秒 1000 token 的极速推理。
OpenAI 为 Responses API 增加 WebSocket 模式。该模式通过持久长连接与内存状态缓存,避免每次 HTTP 请求重复传输和校验历史,将智能体循环端到端延迟降低最高 40%,首字响应时间缩短近 45%,并在 Cursor 等编码工具中全面落地。
据 The Information 报道,OpenAI 同意在未来三年向芯片初创公司 Cerebras 支付超 200 亿美元租用算力服务器,并出资约 10 亿美元资助数据中心,以换取 Cerebras 最多 10% 的股权。这项新承诺比 1 月份的协议规模翻倍,直接为 Cerebras 冲击二季度 IPO 铺平了道路。
OpenAI 发布 GPT-5.3-Codex-Spark 研究预览版。这是其首个面向实时交互的编程小模型,借助 Cerebras 硬件将生成速度推至每秒 1000 token 以上。它专注于精准局部的快速微调,目前已向 ChatGPT Pro 用户开放测试。
Perplexity 发布新版自研模型 Sonar。它基于 Llama 3.3 70B 微调,由 Cerebras 提供推理支持,生成速度达每秒 1200 token。官方称其用户满意度超越 Claude 3.5 Sonnet,目前已面向 Pro 用户开放测试。