Anthropic、Claude APIに引用機能を追加：根拠文を明記し出力トークン無料

大規模言語モデルを実務に組み込む際、最も開発者を悩ませてきたのが根拠の明示です。これまではプロンプトを何行も書き連ねて引用フォーマットを指示するのが常でしたが、出力が崩れたり架空の出典をでっち上げられたりするトラブルが絶えませんでした。

Anthropicは1月23日、Claude APIおよびGoogle CloudのVertex AI向けに、回答の根拠を原文単位で明記する新機能「Citations」の提供を開始しました。対応モデルはClaude 3.5 SonnetとClaude 3.5 Haikuです。

面倒なプロンプト調整に別れを告げる

この機能により、開発者は煩雑なプロンプトエンジニアリングから解放されます。

使い方はシンプルで、Messages APIのコンテキストにPDFやテキストファイルをそのまま投入するだけです。APIが自動的に文書を文単位で分割し、Claudeが回答を生成する際にどの文や段落を参照したかを厳密に紐付けて出力します。もちろん、開発者側で独自に作成したチャンクを渡すことも可能です。

Anthropicの社内検証によると、このネイティブ引用機能は独自に実装された多くのカスタム手法を上回り、再現率が最大15%向上したといいます。

文単位の分割と無料の引用トークン

今回のアップデートで特筆すべきは、引用部分の出力トークン料金が無料に設定されている点です。

元の文書を読み込ませる際の入力トークン費用は通常通り発生しますが、回答に含まれる引用原文の出力トークンに対しては課金されません。長文の引用を含めると利用料金が跳ね上がるという懸念を払拭する仕様となっています。

先行導入した企業からも高い評価が寄せられています。法律AIプラットフォームCoCounselを展開するThomson Reutersは、これまで自前で構築・保守するのが極めて難しかった引用システムが、APIの標準機能によって手軽に実現できるようになったと評価しています。

また金融向け自律エージェントを手がけるEndexのCEO、Tarun Amasa氏によると、出典に関するハルシネーションやフォーマットの乱れが従来の10%から0%に激減し、1回答あたりの引用数も20%増加したとのことです。

なぜ重要か

私たちは、今回の機能追加がエンタープライズ領域におけるRAG活用のハードルを大きく引き下げたと見ています。

法律や金融、医療といった正確性が命となる分野では、裏付けのないAIの回答は使い物になりません。これまで現場の開発者は、検索結果の紐付けや検証ロジックを自前で泥臭く作り込んでいましたが、モデル提供元がAPIレベルで高精度な根拠提示を保証してくれるなら、そうした車輪の再発明は不要になります。

さらに、引用テキストの出力トークン代を無料にした判断も極めて合理的です。コスト増を気にせず正確なエビデンスを大量に付与できるようになるため、企業はClaudeを監査やリサーチのコアエンジンとして安心して採用できます。モデルの巨大なコンテキスト窓を活かし、周辺ツールが担っていた領域を公式が綺麗に回収していく流れを象徴する一手といえます。