跳到正文
IFAI

大模型

OpenAI 推出 Codex-Spark:每秒超 1000 token,主打实时编程

首次发布 传播指数 61

OpenAI 发布 GPT-5.3-Codex-Spark 研究预览版。这是其首个面向实时交互的编程小模型,借助 Cerebras 硬件将生成速度推至每秒 1000 token 以上。它专注于精准局部的快速微调,目前已向 ChatGPT Pro 用户开放测试。

OpenAI 推出 Codex-Spark:每秒超 1000 token,主打实时编程
图:openai.com

很多人写代码时最烦的不是 AI 不懂,而是等它敲字的过程太漫长。哪怕只是改个变量名或者调一下界面样式,你都得盯着光标一点点吐字,原本连贯的思路直接被打断了。

OpenAI 在 2 月 12 日放出了 GPT-5.3-Codex-Spark 的研究预览。这是它家第一款专门为「实时编程」打造的小尺寸模型,每秒生成速度超过了 1000 个 token。

它的定位不是去啃需要干几个小时的大型工程,而是做你的实时副驾驶,你打断它、修改需求,它几乎都是眨眼间把代码改好递给你。

4 万亿晶体管的大芯片,加上彻底重写的网络协议

要让模型跑到每秒千字,OpenAI 这次找来了 Cerebras 帮忙。上个月双方刚签下超过 100 亿美元的多年合作协议,Spark 正是第一项落地产物。

这款模型跑在 Cerebras 的第三代晶圆级芯片 WSE-3 上。这块拥有 4 万亿晶体管的庞然大物,专攻极低延迟的推理场景。

不过光换芯片还不够。OpenAI 这次把客户端到服务端的整套通信链路全给翻新了,默认改用持久的 WebSocket 连接。

这一套工程改造下来,客户端和服务端往返开销降了 80%,首字响应时间缩短了一半,每个 token 的传输额外开销也降了 30%。

目前 Spark 只有纯文本输入,上下文长度为 128k。在评价智能体编程能力的 SWE-Bench Pro 和 Terminal-Bench 2.0 测试中,OpenAI 称它用极其微小的时间代价,拿到了相当强劲的分数。

它的默认行为也做了克制调整:只做极简的针对性修改,不会主动自作主张去跑测试,把控制权完全留给人。

目前 ChatGPT Pro 用户可以在 Codex 桌面应用、CLI 终端以及 VS Code 插件里体验它。它拥有独立的使用频率上限,不挤占标准额度,但高峰期可能需要排队。API 则先开放给少数设计合作伙伴。

为什么重要

我们认为,OpenAI 这一步走得极其务实。过去一年行业都在拼谁家模型的长程推理更深、能自主干几天的活,但现实中开发者日常打交道最多的,恰恰是修修补补、快速调参的高频交互。

如果你每天都要写代码,现在就可以去 VS Code 里试试它。1000 token 每秒的速度意味着你回车刚按下去,完整的函数重构就已经贴在屏幕上了。这种像敲本地快捷键一样的即时感,是传统云端大模型给不了的。

对行业来说,这也是给英伟达主导的 GPU 生态敲了一记警钟。OpenAI 并没有否认 GPU 在吞吐和成本上的通用优势,但它用真金白银的 100 亿美元大单证明了,极低延迟的交互型任务必须上专用硬件。这无疑给刚完成 10 亿美元融资、正筹备上市的 Cerebras 打了一剂最强的广告。

不过隐患也显而易见。专用硬件的算力池目前远不如通用数据中心充裕,OpenAI 已经在公告里打了预防针,提到高负载时段可能会限流排队。如果后续无法迅速铺开产能,极致体验可能很难普及到更便宜的订阅档位。

但整体来看,将长耗时思考留给后台智能体,把即时响应交给极速小模型,这种「快慢分工」的混合架构,很大概率会成为下一代 AI 编程工具的标配。

来源 (2)

  1. [1]
    openai.com(在新标签页打开)原文openai.com
  2. [2]
    techcrunch.com(在新标签页打开)报道techcrunch.com

每日 AI 内容精选