Anthropic、推論の暗号学的証明システム「FlashProve」をオープンソース公開

対面で人と会うときは、顔を見たり声を聞いたりすれば本人だとすぐに分かります。

しかし、API 経由で AI モデルを使う場合、本当に指定したモデルが答えているのか、それとも中継サービスがコスト削減のために裏で安価な小型モデルにすり替えているのかを確かめる術はほとんどありません。

Anthropic は、推論の正当性を暗号学的に証明するオープンソースシステム「FlashProve」を公開しました。

FlashProve は、ゼロ知識証明の一種である zkSNARK を採用しています。モデル提供者はモデルの重みに対するコミットメントをあらかじめ公開し、回答ごとに小さな証明データを添付します。

検証者はプロプライエタリなモデルの重みを知ることなく、手元の一般的な CPU を使ってわずか数秒でその回答が本物であると確認できます。

重みを隠したまま推論を証明する

大規模言語モデルの検証がこれまで難しかった最大の理由は、最先端モデルの重みが企業の機密情報であり、第三者が手元で推論を再実行して確かめることも計算コスト的に不可能だった点にあります。

FlashProve は暗号学的なゼロ知識性を活かすことで、モデルのネットワーク構造自体は前提としつつも、重みパラメータを一切漏らすことなく推論の正当性だけを証明します。

Anthropic はその実用性を示すため、4000 億パラメータ規模の Mixture of Experts モデル「Llama 4 Maverick」を用いてテストを実施しました。

4 ビット量子化および 1024 トークンのコンテキスト環境において、単一の NVIDIA H100 GPU 上で毎秒約 110 トークンの証明生成速度を達成し、証明サイズもリクエストあたり約 19 MB に抑えられています。

この安全性を得るための代償として、証明生成には一般的な推論ライブラリ vLLM と比較して 70〜95 倍の GPU 時間がかかります。

それでも、従来のオープンソース実装と比べれば桁違いに高速化されています。

さらに信頼性を担保するため、EPFL や MIT の研究者と共同で形式検証言語 Lean 4 を使い、数学的な健全性の証明と検証器の実装まで完了させています。

モデルのすり替えから AI 自身のサボタージュまで防ぐ

この技術が役立つのは、中継業者によるコスト削減目的のモデルすり替え防止だけではありません。

リリース前後に第三者機関が安全性を評価する際、テスト対象のモデルが実際に提供されているものと同一であるかを確実に担保できるようになります。

また、サーバーへの攻撃や AI の不正動作の検知にも有効です。

攻撃者が推論サーバーに侵入して出力ストリームを改ざんした場合、証明の不整合ですぐに発覚します。

さらに将来、自己改善した高度なモデルが監視を逃れるために「わざと能力の低いモデルのふりをする」といった状況が発生しても、重みと出力が厳格に紐づいているため偽装が通用しません。

ハードウェアが事前学習ではなく正しく推論に割り当てられているかを監査したい規制当局にとっても、強力なツールになり得ます。

なぜ重要か

GitHub 上ではメンテナンス予定のない研究プロトタイプとして公開されていますが、私たちはこの成果が AI ガバナンスにおける極めて重要な一歩だと考えています。

日常的な雑談や検索で 70 倍以上の計算オーバーヘッドを受け入れるユーザーはいませんが、法務文書のチェックや脆弱性診断など、結果の完全性が問われる領域では「暗号学的に保証された出力」の需要が確実に存在します。

業界全体で見れば、安価なモデルを裏で噛ませて利ざやを稼ぐような不透明な API リセラーは、検証可能なインフラが普及するにつれて淘汰されていくはずです。

また興味深い点として、Anthropic は FlashProve のプロトコル策定や最適化の多くを Claude 自身に行わせたと明かしています。AI が導き出した難解な設計の安全性を確認するために Lean 4 による形式証明を採用したという背景は、今後の高信頼 AI 開発の方向性を物語っています。

実運用への導入にはまだコストの壁が立ちはだかるものの、企業の知的財産を守りながら完全な検証可能性を手に入れられる道筋を示した意義は小さくありません。