主要AIのAPIに脆弱性：ClaudeやGPTの非公開推論プロセスの抽出が可能に

フロンティアAI各社が厳重に隠蔽してきた推論モデルの「思考プロセス」が、APIの脆弱性によって暴かれる事態が発生しました。

軽量モデルが最上位モデルの「思考」を覗き見

MATS Programの研究チームは、Anthropic、OpenAI、GoogleのAPIに存在する脆弱性を発見しました。この脆弱性を突くことで、Claude、GPT、Geminiの推論モデルから、非公開とされている思考トークンを抽出できることが判明しました。

研究チームの@kotekjedi_ml氏によると、抽出されたトークン数はAPIで課金されるthinking tokenの数とほぼ1対1で一致しており、裏側の思考がそのまま抜き取られていることが実証されました。

さらに深刻なのは、暗号化された推論データがセッションやユーザー、さらにはモデルの枠を超えて移植可能だった点です。研究者は軽量なClaude Haiku 4.5をジェイルブレイクし、最上位モデルであるOpus 4.8の思考データを読み取らせることに成功しました。公開トレース7000件の調査では、すでに62件のAPIキー、33件のメールアドレス、33件のパスワードの流出が確認されています。各社は責任ある開示を受けて修正パッチの適用を進めています。

なぜ重要か

多くの開発者は、思考トークンが外部から見えないことを前提に機密情報や複雑な業務ルールをプロンプトに流し込んでいますが、API層の設計ミスがあれば秘密のブラックボックスは容易に突き崩されます。

また、最先端モデルの推論過程を安価なモデルで読み解ける状態は、知的財産の保護や蒸留防止という企業のビジネスモデルを根本から揺るがしかねません。私たちは、今回の件を受けて推論トークンの暗号化とセッション分離が業界全体の必須課題になると考えています。