傳 Anthropic 將推 Claude 3.7 Sonnet 500K:上下文翻倍以上
程式碼功能標記顯示 Anthropic 正準備將 Claude 3.7 Sonnet 的上下文視窗從 200K 擴大至 500K。這意味著使用者能直接喂入超大程式碼庫或長文件,避開 RAG 帶來的檢索斷層。不過目前尚不清楚該版本是否僅限企業客戶使用。

寫程式碼寫到正順手的時候,最煩的就是模型突然跳出上下文超限的提示,逼著你重新開視窗或者手動切碎檔案。
現在看起來,Anthropic 打算把這個天花板直接往上推一大截。最近曝光的程式碼特性標誌顯示,Anthropic 正在準備給 Claude 3.7 Sonnet 進行一次重磅升級,將其上下文視窗從現有的 200K tokens 直接拉大到 500K tokens。
雖然官方還沒官宣,但種種跡象表明上線可能就在眼前了。
程式碼裡露出的 500K 訊號
這次的訊息來自系統新新增的 feature flags。從 200K 跳到 500K,意味著單次會話能吃進去的資訊量直接翻了兩倍半。
事實上,已經有第三方平臺嗅到了味道。比如知名 AI 程式設計工具 Cursor,最近就在其 IDE 選項中悄悄加入了一個名為 Claude Sonnet 3.7 MAX 的選項。
不過,目前還不確定這個超長上下文是全員開放,還是專門針對 Enterprise 企業客戶。按照 Anthropic 一貫的節奏,很多激進的大功能通常都會先提供給企業訂閱者測試,隨後再決定是否全面下放。
甩開 RAG,直接吞下幾十萬行程式碼
500K tokens 到底意味著什麼?說白了,就是很多以前必須靠 RAG 檢索增強生成來硬湊的場景,現在可以直接一把餵給模型。
RAG 雖然能省 token,但在切分塊和檢索的時候,往往會打碎文本的原有順序和結構關聯。一旦上下文拉到 500K,不管是分析數以萬計的複雜政治文獻,還是閱讀跨越幾十萬行程式碼的超大專案,模型都能在單次會話裡通盤掌握。
這也正好趕上了今年 Andrej Karpathy 提倡的 vibe coding 熱潮。對於不寫底層程式碼、純靠自然語言驅動 AI 程式設計的開發者來說,最怕的就是上下文斷掉導致 AI 忘了前面的設定。500K 讓人可以一口氣把整個專案連同依賴全丟進去,省去了來回對齊的折騰。
為什麼重要
我們認為,如果這一升級坐實,最直接受益的就是那些天天和大工程搏鬥的專業開發者與分析人員。不用再花精力去調優複雜的向量檢索,直接全量輸入,試錯成本會大幅降低。但普通使用者可能不用太著急期待,因為超長上下文往往伴隨著極高的硬體記憶體消耗與推理成本,大機率初期會被鎖在高價企業版裡,或者按更高的 token 價格計費。
對行業來說,Anthropic 這一步是在正面阻擊 Google 的長上下文攻勢。此前 Gemini 憑藉百萬級 token 建立了一道護城河,而 Claude 3.7 Sonnet 本身在推理和程式設計基準測試上口碑極佳,一旦它的視窗跨越到 500K,Gemini 過去在超長程式碼處理上的獨佔優勢就會受到很大沖擊。
看起來,Anthropic 的做法相當務實,它沒有盲目去卷遙不可及的千萬 token,而是瞄準了 500K 這個剛好能吞下主流大型軟體工程的甜點位。不過隱患也依然存在:視窗變大容易,但模型在 500K 的極端深度下能不能保持不幻覺、不漏掉中間的關鍵細節,依然需要實際測試來驗證。
來源 (1)
- testingcatalog.com(在新分頁開啟)原文testingcatalog.com