Anthropic 推出 Claude 消息线程公测:免重传历史,延迟降低 35%
Anthropic 开启 Claude Messages API 消息线程公测。长程智能体每轮交互无需重发全部历史,只传增量新消息。在 50 万至 100 万 token 场景下,首字延迟中位数降低约 35%,线程数据在内存加密暂存 5 分钟且计费不变。

如果你让 AI 写过一段复杂的代码,或者用过自动化 Agent,肯定经历过这种痛苦:聊到几十轮之后,AI 回复前总要卡顿老半天。
这不是模型变笨了,而是你的客户端每次都得把之前聊过的几十万字、上百张截图和报错日志,原封不动地重新打包发给服务器。现在 Anthropic 打算治一治这个毛病。
Anthropic 宣布在 Claude Messages API 中正式公测「消息线程」(Message Threads)功能。说白了,就是服务端帮你记住了之前的对话,以后每轮交互只要传最新的增量内容就行。
告别每轮几百兆的重传包袱
像写代码或操作电脑这样的长程 Agent,一个任务跑下来可能要调用上百次 API。每一次工具返回的执行结果、修改的代码片段,都会堆进上下文里。
一旦会话长度堆到几十万甚至上百万 token,每次把整段历史重新上传一遍,光是传输和准备数据就会严重拖慢首字响应时间(TTFT)。
有了消息线程之后,开发者只需要在第一次请求时带上完整对话来启动线程。之后的每一次请求,只要带上线程参数、上一轮回复的 ID 以及最新的增量消息即可。
这套功能目前已经在大部分 Claude Code 用户中默认开启。官方数据显示,对于 50 万到 100 万 token 的超长会话,首字延迟中位数直接降了约 35%。
在安全性方面,线程数据只会在内存中加密保留,完全不写硬盘。如果一个线程连续 5 分钟没有新请求,就会自动过期销毁;下次客户端再发请求时,只需重新带上完整历史重启线程即可。
目前消息线程不仅支持原生的 Claude 平台,也同步上线了 AWS、微软 Foundry 以及 Google Cloud 托管环境。不过需要注意的是,Claude 每轮依然需要完整读取全部上下文,所以 token 计费标准和速率限制并没有任何变化,省下的纯粹是等待时间。
为什么重要
我们认为,Anthropic 这次优化看起来只是接口层面的修修补补,但它踩准了长程智能体最痛的一个体验死角。
对于每天重度使用 Claude Code 或搭建自动化工作流的开发者来说,延迟砍掉三分之一带来的爽快感是实打实的。尤其是在屏幕操作或者多图文档交互这类高频场景中,每次省去反复重传大尺寸截图的网络开销,整个 Agent 的反应节奏会顺畅很多。
从架构上看,服务端在内存里只保留 5 分钟的无状态折中方案非常聪明。既没有给自己背上沉重的持久化会话存储负担,避免了数据落盘的安全顾虑,又精准覆盖了活跃调用的窗口期。
美中不足的是它并不帮你省钱。既然模型底层依然要读完整上下文,你的 token 账单就不会变少。但不管怎么说,随着各家模型上下文越做越大,谁能把动辄百万 token 的交互时延压下来,谁就能在生产环境里把 Agent 留得更久。
来源 (2)
- claude.com(在新标签页打开)原文claude.com
- x.com(在新标签页打开)讨论x.com