Google、Gemini 2.5に暗黙的キャッシングを導入：設定なしでAPI費用を75%削減

大規模言語モデルの API を呼び出す際、変更のないシステムプロンプトや長大な仕様書を毎回送信し、その都度満額の料金を支払わされるのは開発者にとって悩みの種でした。

Google は 2025 年 5 月 8 日、Gemini API の Gemini 2.5 モデル向けに「暗黙的キャッシング」（implicit caching）の提供を開始しました。キャッシュを手動で作成・管理することなく、過去のリクエストと共通のプレフィックスを持つプロンプトに対して自動的に 75% のトークン割引が適用されます。

プロンプトの先頭が一致するだけで自動割引

Google は 2024 年 5 月に明示的なコンテキストキャッシュを導入し、75% のコスト削減を提供してきました。しかし従来の仕組みでは、開発者が明示的にキャッシュオブジェクトを生成し、そのライフサイクルを管理する必要がありました。

今回導入された暗黙的キャッシングは、その手間を完全に排除します。

Gemini 2.5 モデルにリクエストを送る際、プロンプトの前半部分が前後のリクエストと共通していれば、システムが自動的にキャッシュヒットと判定して 75% の割引を適用します。

キャッシュが適用される最小トークン数の閾値も大幅に引き下げられました。Gemini 2.5 Flash では 1024 トークン、Gemini 2.5 Pro では 2048 トークンからキャッシュの対象になります。

活用のコツは非常にシンプルです。固定の前提条件やマニュアルをプロンプトの先頭に配置し、毎回変化するユーザーの質問を末尾に置くだけです。実行結果のメタデータに含まれる cached_content_token_count で、何トークンが割引されたかも確認できます。

コスト削減を確実に保証したいユースケース向けには、Gemini 2.5 および 2.0 に対応した従来の明示的キャッシュ API も引き続き利用可能です。

なぜ重要か

エージェント開発や社内文書検索などを手掛ける開発者にとって、システム設計を一切変えずにプロンプトの並び順を工夫するだけで即座に請求額を抑えられる恩恵は絶大です。

業界全体を見渡すと、LLM の競争軸は単なるトークン単価の引き下げから、キャッシュをいかに自動化して実質コストを下げるかというエンジニアリング支援の領域にシフトしています。Anthropic などがプロンプトキャッシングで先行するなか、Google が暗黙的アプローチで敷居を下げたことは競合への強い牽制になります。

明示的な管理を不要にした Google の判断は非常にスマートです。一方で、暗黙的キャッシュはインフラ側の保持ポリシーに依存するため、キャッシュがいつパージされるかを開発者が厳密に予測することはできません。絶対にコストブレを避けたい大規模案件では、依然として明示的キャッシュを併用する判断が求められそうです。