AnthropicがFlashProveを公開：ゼロ知識証明でモデルの「すり替え」を防止

高価な最上位モデルのAPIを呼び出したとき、事業者がコスト削減のために裏でこっそり安価な小型モデルへすり替えていないと、どうやって確かめればいいのでしょうか。これまで、利用者は事業者の看板を信用するしかありませんでした。

Anthropicはこの不透明な状況に風穴を開けるため、大規模言語モデルの推論検証システム「FlashProve」をオープンソースで公開しました。ゼロ知識証明を活用し、返ってきた回答があらかじめ約束されたモデルの重みから生成されたものであることを、数学的に証明できる仕組みです。

APIに組み込む「偽造防止チェック」

FlashProveの優れた点は、検証側の負担が極めて小さいことです。

検証者はモデルの重みを入手する必要がありません。企業側は知的財産であるモデル内部を隠したまま、信頼性だけを提供できます。また、検証にGPUは不要で、一般的なPCのCPUがあれば十数秒でチェックが完了します。

AnthropicはMetaの「Llama 4 Maverick」（総パラメータ数約400B、トークンあたり約17Bが活性化するMoE構成）を用いて実証実験を行いました。

単体のH100 GPUを使用した場合、証明生成速度は毎秒約110トークンに達します。1024トークンのリクエストに対する証明データサイズは約19MBで、一般向けCPUを使えば十数秒で検証可能です。

暗号学者のAlessandro Chiesa氏やGiacomo Fenzi氏らとの共同研究で開発され、証明生成器や検証器、形式的証明のコード一式がGitHubで公開されています。

飛躍的な高速化と、なお重い計算コスト

従来のオープンソース手法と比べれば桁違いに実用的になったものの、明日からすべてのチャットで使えるわけではありません。

ネックとなるのはサーバー側の負荷です。証明を生成するためには、通常の推論と比較して約72〜94倍のGPU計算時間を消費します。回答を出すのに1秒しかかからなくても、不正をしていないと証明するために1分半近くGPUを回し続ける計算になります。

それでも、400B規模の巨大MoEモデルで暗号学的な検証を成立させた意義は小さくありません。モデルのすり替え防止だけでなく、対話の乗っ取り攻撃を防いだり、安全性評価者がテスト対象と実運用モデルの同一性を確かめたりする用途が想定されています。

なぜ重要か

Anthropicのアプローチは非常に合理的だと考えます。利用規約や企業の善意に頼るのではなく、暗号技術によって「検証可能な事実」へと置き換えたからです。

普段の雑談や軽いプログラミングで、推論コストを70倍以上支払うユーザーはいないでしょう。しかし、医療、金融、法務などの極めて責任が重い領域や、モデルの安全性監査においては、指定通りのモデルが確実に動いたという証明には十分な対価が見出せます。

業界全体にとっても、API事業者のブラックボックス体質にメスを入れる契機になり得ます。裏で勝手に小型モデルへルーティングしたり、過度な量子化でコストを削ったりする行為に対し、技術的な対抗手段が生まれたことを意味するからです。

計算コストの高さという課題は残るものの、ゼロ知識証明の高速化や専用ハードウェアの進化は急速に進んでいます。コードを全公開したことで、業界全体でこのコストの壁を崩す動きが加速するはずです。