跳到正文
IFAI

大模型

Anthropic 为 Claude API 推出引用功能:精准标记原文句子,引用文本不收输出费

首次发布 传播指数 51

Anthropic 为 Claude API 推出 Citations 引用功能,支持 Claude 3.5 Sonnet 和 Haiku。传入文档后,模型会自动在回答中精确标注引用的句子与段落,内部测试召回准确率提升 15%,且引用的原文不收输出 Token 费用,大幅降低了防幻觉门槛。

Anthropic 为 Claude API 推出引用功能:精准标记原文句子,引用文本不收输出费
图:anthropic.com

做过大模型企业应用的人都知道,最让人抓狂的不是模型答不上来,而是它言之凿凿却给不出依据。

为了让 AI 在引用法律法规、财报或者技术文档时注明出处,开发者过去通常要写上几百字极其啰嗦的 Prompt,严防死守让它交代「这段话出自第几页第几段」。结果往往不仅格式频繁翻车,还会经常冒出编造的假出处。

Anthropic 正式为 Claude API 和 Google Cloud Vertex AI 推出 Citations 原生引用功能,首批支持 Claude 3.5 Sonnet 和 Claude 3.5 Haiku。

不用再写又臭又长的「请标明出处」了

这项功能说白了就是把文档追溯的原生能力焊进了模型内部。

开发者只需要在调用 Messages API 时把 PDF 或纯文本源文档扔进上下文窗口,Claude 就会在生成回答的同时,把每一个推论精准绑定到源文档的具体句子和段落上,不用额外配置独立的文件存储系统。

处理流程也做得很轻量。API 会默认按句子将文档切块后传给模型,如果开发者对切分颗粒度有特殊需求,也可以自己传入预处理好的自定义文本块。

官方公布的内部测试数据显示,这种内置引用机制比市面上大多数自定义实现都要出色,召回准确率最高提升了 15%。

原文引用不收输出费,金融机构幻觉率直接归零

这次更新最吸引人的地方之一,在于定价策略非常大方。

虽然处理源文档会正常消耗输入 Token,但 Anthropic 明确表示,模型在回答中直接引用的原文文本,完全免收输出 Token 费用。这直接免去了开发者为了追求可验证性而导致账单暴涨的顾虑。

严肃行业客户已经给出了很夸张的反馈。汤森路透旗下法律与财税 AI 平台 CoCounsel 的产品负责人 Jake Heller 直言,他们之前自建过一套引用系统,不仅开发极其痛苦,后期维护更是噩梦,接入 Anthropic 的原生功能后,向律师交付可验证结论的成本大幅降低。

为金融机构开发自主智能体的 Endex 表现更抢眼。其 CEO Tarun Amasa 表示,接入该功能后,出处幻觉和格式错误直接从 10% 降到了 0%,每个回答里包含的精准引用数量还提升了 20%。

为什么重要

我们认为,Anthropic 这次打中了企业级 RAG 应用最痛的一根神经。

对开发者和企业来说,法律、金融、医疗这类严肃场景对容错率的要求是零,回答没有凭据就根本无法落地。以前团队要投入数周时间调优 Prompt、写解析器和校验逻辑,现在原厂直接在 API 层面把「证据链」闭环做掉了,这让构建可靠知识库系统的门槛瞬间被拉低了一大截。

商业策略上也走得很聪明。长期以来,开发者在让模型生成长篇引用时最心疼的就是昂贵的输出 Token 计费。Anthropic 针对引用文本免除输出费,等于在鼓励大家把 Claude 当成可信的合规审查引擎来用,无形中锁定了更多长文本输入的高价值工作流。

这也在给整个行业提了个醒。随着大模型上下文窗口越来越大,过去由中间件和复杂 Prompt 缝合起来的简易 RAG 管道,正在被模型原厂的原生能力逐步蚕食。

来源 (1)

  1. [1]
    anthropic.com(在新标签页打开)原文anthropic.com

每日 AI 内容精选