Anthropic 釋出 Claude 2.1:支援 20 萬 Token 上下文,幻覺率減半
Anthropic 正式推出 Claude 2.1。新模型將上下文視窗拉到 20 萬 Token,相當於 500 頁長文件,同時虛假回答率降低了一倍。API 還上線了系統提示詞和工具呼叫測試功能。目前普通使用者已可在 claude.ai 體驗。

你手頭有一份 500 頁的招股書或者一整套複雜的開原始碼庫,想讓 AI 幫你讀懂。在以前,哪怕最頂級的模型也只能逼著你切塊餵給它,結果拼湊出來的資訊經常牛頭不對馬嘴。
Anthropic 釋出的 Claude 2.1 打算直接解決這個麻煩。新版本不僅在 claude.ai 網頁端上線,也同步開放了 API。
一口吞下 500 頁長文
Claude 2.1 最顯眼的變化,是把上下文視窗直接翻倍拉到了 20 萬 token,相當於 15 萬個英文單詞,或者厚達 500 頁的書籍。
這意味著你可以把整本《伊利亞特》、一整套完整的技術文件,或者公司一季度的全部財務報表一次性倒進輸入框裡。Claude 能夠基於整份資料做跨文件比對、趨勢推演和問答。
不過,一口氣讀這麼多東西確實費勁。官方坦言,處理長達 20 萬 token 的任務目前需要花上幾分鐘的時間,他們預計未來隨著技術迭代,延遲會有明顯改善。
終於學會承認「我不知道」
除了容量變大,新模型還重點解決了 AI 滿嘴跑火車的毛病。
根據官方測試,Claude 2.1 的虛假陳述發生率比 2.0 版本降低了一半。在面對容易踩坑的事實提問時,它不再硬著頭皮瞎編答案,而是更傾向於直接承認「我不確定」。
在針對長篇複雜文件的理解與摘要測試中,Claude 2.1 給出錯誤答案的機率減少了 30%。更關鍵的是,它誤以為文件支援某項特定主張的機率足足下降了 3 到 4 倍。
在開發者生態上,Claude 2.1 終於補齊了兩塊核心拼圖:系統提示詞和工具呼叫。在測試版工具呼叫支援下,Claude 可以把使用者的自然語言轉成結構化的 API 請求,呼叫計算器做複雜運算,或者檢索私有知識庫。開發者平臺還上線了 Workbench 試驗場,方便儲存提示詞歷史並匯出 SDK 程式碼。
為什麼重要
把上下文視窗拉到 20 萬 token,對那些整天和海量合同、金融報表較勁的專業人士來說,價值非常實在。你不再需要自己搭建複雜的文本切分檢索系統,直接把完整材料丟進去就能開始提問。
我們認為,Anthropic 這次把重點放在「承認不知道」和長文事實準確度上,是非常精明的商業打法。對於金融和法律等企業級客戶來說,AI 給出虛假事實的法律風險和決策成本極高。相比於回答得多天花亂墜,敢於承認資訊盲區反而更值得託付關鍵任務。
看起來,長文本處理的門檻已經被 Anthropic 再次拔高,接下來競爭對手們不得不跟進這種超大視窗架構。但眼下它的隱患也很明確:處理超長文本需要數分鐘的延遲,如果無法在生產環境中快速給出反饋,很多即時互動場景就很難真正跑通。
來源 (1)
- anthropic.com(在新分頁開啟)原文anthropic.com