OpenAI 升级 Responses API：加长连接支持，智能体调用提速 40%

以前大家用 AI 写代码，觉得慢总怪大模型生成太肉。现在情况倒过来了：底层的模型跑得飞快，反而是外层包着的那层 HTTP 接口在拖后腿。

OpenAI 宣布给 Responses API 正式加入 WebSocket 支持。这一改动把 Agent 工作流的端到端延迟砍掉了最多 40%，首字生成时间（TTFT）缩短了约 45%。

为什么以前的 API 成了绊脚石

像 Codex 这样的编程 Agent 干起活来，并不是一次性问答。它要先扫一遍代码库、读文件、改代码、跑测试，反反复复来回几十轮。

过去走普通的 HTTP 请求，每一次轮次都要重新建连，把整段聊天记录、工具定义、上下文全部打包重新传过去。OpenAI 的服务器也得从头做一遍解析、分词和安全审核。

以前 GPT-5 和 GPT-5.2 的生成速度大概只有每秒 65 个 token，网络和服务的这点开销很容易被漫长的 GPU 推理时间掩盖过去。但随着搭载 Cerebras 专用硬件的 GPT-5.3-Codex-Spark 登场，模型生成速度直接飙到了每秒 1000 个 token，峰值甚至能冲到 4000。这时候，用户等模型的时间反而没有等 API 解析的时间长。

用长连接留住状态，避免从头算起

OpenAI 最终选择了 WebSockets，而不是更底层复杂的 gRPC 双向流，核心目的是不想让开发者大改代码结构。

在新的 WebSocket 模式下，客户端和服务器之间维持一条长连接。服务端会直接在内存里缓存上一轮的状态，包括上一轮的响应对象、工具定义，以及已经生成好的 token。

当 Agent 发起下一轮调用时，只需要带上一个参数 previous_response_id，系统就会直接从内存提取旧数据，只对新增的内容做安全扫描和处理。同时，他们还砍掉了图像处理等中间服务的跳转延迟，并把计费等不阻塞主流程的操作挪到了后台并行跑。

实际效果非常直接。Vercel 把它接进了 AI SDK，延迟直接降了 40%；Cline 的多文件处理流程提速了 39%；Cursor 跑 OpenAI 模型的速度也提升了最高 30%。

为什么重要

这篇技术复盘背后透露出一个关键变化：AI 基础设施的瓶颈，正在从模型权重和 GPU 算力，转移到周围的工程配套与传输层。

对于每天高频使用 Cursor、Cline 或 Codex 的开发者来说，这种底层协议的改动是最实打实的提速。以前跑复杂任务动辄等上几分钟，现在端到端直接压缩掉三到四成的时间，Agent 反馈更接近实时交互，写代码时的打断感会明显减少。

OpenAI 这步棋走得很克制也很聪明。他们原本搞过一套类似事件阻塞的原型，性能极高，但接口形态大改；团队最终选择退回熟悉的 response.create 配合参数标记，就是为了让社区生态能零成本接入。在推理硬件越来越快的背景下，我们认为像 Anthropic 和 Google 等对手也必须跟进重写自己的 Agent 传输架构，否则单凭模型算力提速，用户在客户端根本感知不到差别。