跳到正文
IFAI

大模型

传 Anthropic 将推 Claude 3.7 Sonnet 500K:上下文翻倍以上

首次发布 传播指数 43

代码功能标记显示 Anthropic 正准备将 Claude 3.7 Sonnet 的上下文窗口从 200K 扩大至 500K。这意味着用户能直接喂入超大代码库或长文档,避开 RAG 带来的检索断层。不过目前尚不清楚该版本是否仅限企业客户使用。

传 Anthropic 将推 Claude 3.7 Sonnet 500K:上下文翻倍以上
图:testingcatalog.com

写代码写到正顺手的时候,最烦的就是模型突然跳出上下文超限的提示,逼着你重新开窗口或者手动切碎文件。

现在看起来,Anthropic 打算把这个天花板直接往上推一大截。最近曝光的代码特性标志显示,Anthropic 正在准备给 Claude 3.7 Sonnet 进行一次重磅升级,将其上下文窗口从现有的 200K tokens 直接拉大到 500K tokens。

虽然官方还没官宣,但种种迹象表明上线可能就在眼前了。

代码里露出的 500K 信号

这次的消息来自系统新添加的 feature flags。从 200K 跳到 500K,意味着单次会话能吃进去的信息量直接翻了两倍半。

事实上,已经有第三方平台嗅到了味道。比如知名 AI 编程工具 Cursor,最近就在其 IDE 选项中悄悄加入了一个名为 Claude Sonnet 3.7 MAX 的选项。

不过,目前还不确定这个超长上下文是全员开放,还是专门针对 Enterprise 企业客户。按照 Anthropic 一贯的节奏,很多激进的大功能通常都会先提供给企业订阅者测试,随后再决定是否全面下放。

甩开 RAG,直接吞下几十万行代码

500K tokens 到底意味着什么?说白了,就是很多以前必须靠 RAG 检索增强生成来硬凑的场景,现在可以直接一把喂给模型。

RAG 虽然能省 token,但在切分块和检索的时候,往往会打碎文本的原有顺序和结构关联。一旦上下文拉到 500K,不管是分析数以万计的复杂政治文献,还是阅读跨越几十万行代码的超大项目,模型都能在单次会话里通盘掌握。

这也正好赶上了今年 Andrej Karpathy 提倡的 vibe coding 热潮。对于不写底层代码、纯靠自然语言驱动 AI 编程的开发者来说,最怕的就是上下文断掉导致 AI 忘了前面的设定。500K 让人可以一口气把整个项目连同依赖全丢进去,省去了来回对齐的折腾。

为什么重要

我们认为,如果这一升级坐实,最直接受益的就是那些天天和大工程搏斗的专业开发者与分析人员。不用再花精力去调优复杂的向量检索,直接全量输入,试错成本会大幅降低。但普通用户可能不用太着急期待,因为超长上下文往往伴随着极高的硬件内存消耗与推理成本,大概率初期会被锁在高价企业版里,或者按更高的 token 价格计费。

对行业来说,Anthropic 这一步是在正面阻击 Google 的长上下文攻势。此前 Gemini 凭借百万级 token 建立了一道护城河,而 Claude 3.7 Sonnet 本身在推理和编程基准测试上口碑极佳,一旦它的窗口跨越到 500K,Gemini 过去在超长代码处理上的独占优势就会受到很大冲击。

看起来,Anthropic 的做法相当务实,它没有盲目去卷遥不可及的千万 token,而是瞄准了 500K 这个刚好能吞下主流大型软件工程的甜点位。不过隐患也依然存在:窗口变大容易,但模型在 500K 的极端深度下能不能保持不幻觉、不漏掉中间的关键细节,依然需要实际测试来验证。

来源 (1)

  1. [1]
    testingcatalog.com(在新标签页打开)原文testingcatalog.com

每日 AI 内容精选