跳到正文
IFAI

大模型

Anthropic 為 Claude API 推出引用功能:精準標記原文句子,引用文本不收輸出費

首次發布 傳播指數 51

Anthropic 為 Claude API 推出 Citations 引用功能,支援 Claude 3.5 Sonnet 和 Haiku。傳入文件後,模型會自動在回答中精確標註引用的句子與段落,內部測試召回準確率提升 15%,且引用的原文不收輸出 Token 費用,大幅降低了防幻覺門檻。

Anthropic 為 Claude API 推出引用功能:精準標記原文句子,引用文本不收輸出費
圖:anthropic.com

做過大模型企業應用的人都知道,最讓人抓狂的不是模型答不上來,而是它言之鑿鑿卻給不出依據。

為了讓 AI 在引用法律法規、財報或者技術文件時註明出處,開發者過去通常要寫上幾百字極其囉嗦的 Prompt,嚴防死守讓它交代「這段話出自第幾頁第幾段」。結果往往不僅格式頻繁翻車,還會經常冒出編造的假出處。

Anthropic 正式為 Claude API 和 Google Cloud Vertex AI 推出 Citations 原生引用功能,首批支援 Claude 3.5 Sonnet 和 Claude 3.5 Haiku。

不用再寫又臭又長的「請標明出處」了

這項功能說白了就是把文件追溯的原生能力焊進了模型內部。

開發者只需要在呼叫 Messages API 時把 PDF 或純文本源文件扔進上下文視窗,Claude 就會在生成回答的同時,把每一個推論精準繫結到源文件的具體句子和段落上,不用額外配置獨立的檔案儲存系統。

處理流程也做得很輕量。API 會預設按句子將文件切塊後傳給模型,如果開發者對切分顆粒度有特殊需求,也可以自己傳入預處理好的自定義文本塊。

官方公佈的內部測試資料顯示,這種內建引用機制比市面上大多數自定義實現都要出色,召回準確率最高提升了 15%。

原文引用不收輸出費,金融機構幻覺率直接歸零

這次更新最吸引人的地方之一,在於定價策略非常大方。

雖然處理源文件會正常消耗輸入 Token,但 Anthropic 明確表示,模型在回答中直接引用的原文文本,完全免收輸出 Token 費用。這直接免去了開發者為了追求可驗證性而導致賬單暴漲的顧慮。

嚴肅行業客戶已經給出了很誇張的反饋。湯森路透旗下法律與財稅 AI 平臺 CoCounsel 的產品負責人 Jake Heller 直言,他們之前自建過一套引用系統,不僅開發極其痛苦,後期維護更是噩夢,接入 Anthropic 的原生功能後,向律師交付可驗證結論的成本大幅降低。

為金融機構開發自主智慧體的 Endex 表現更搶眼。其 CEO Tarun Amasa 表示,接入該功能後,出處幻覺和格式錯誤直接從 10% 降到了 0%,每個回答裡包含的精準引用數量還提升了 20%。

為什麼重要

我們認為,Anthropic 這次打中了企業級 RAG 應用最痛的一根神經。

對開發者和企業來說,法律、金融、醫療這類嚴肅場景對容錯率的要求是零,回答沒有憑據就根本無法落地。以前團隊要投入數週時間調優 Prompt、寫解析器和校驗邏輯,現在原廠直接在 API 層面把「證據鏈」閉環做掉了,這讓構建可靠知識庫系統的門檻瞬間被拉低了一大截。

商業策略上也走得很聰明。長期以來,開發者在讓模型生成長篇引用時最心疼的就是昂貴的輸出 Token 計費。Anthropic 針對引用文本免除輸出費,等於在鼓勵大家把 Claude 當成可信的合規審查引擎來用,無形中鎖定了更多長文本輸入的高價值工作流。

這也在給整個行業提了個醒。隨著大模型上下文視窗越來越大,過去由中介軟體和複雜 Prompt 縫合起來的簡易 RAG 管道,正在被模型原廠的原生能力逐步蠶食。

來源 (1)

  1. [1]
    anthropic.com(在新分頁開啟)原文anthropic.com

每日 AI 內容精選