Anthropic、最上位AIの「サイレント格下げ」を撤回　安全上の理由を明示へ

最高峰のスーパーカーを借りてアクセルを踏み込んだら、実はシステムが勝手に馬力を落としており、しかもメーターには何の警告も出ていなかった。

Anthropicが今週AI研究者たちから大批判を浴びたのは、まさにこれと同じような仕打ちを行ったためです。

319ページの安全文書に隠されたサイレント制限

火曜日、企業評価額9650億ドルのAnthropicは、最新かつ最高性能を誇るMythosクラスのモデル「Fable 5」を一般公開しました。Mythos自体は4月に発表されていたものの、サイバー攻撃の防御を突破する能力が高すぎるとして公開が見送られていた経緯があります。

今回リリースされたFable 5について、同社幹部は安全対策に自信を持てたため公開したと説明していました。しかし、コミュニティを激怒させたのは、319ページにも及ぶシステムカードにひっそりと書かれていた安全対策の中身でした。

それは、フロンティアAIの開発に関わるリクエストを検知した場合、システムがユーザーに知らせず「サイレントに性能の劣るモデルへダウングレードする」という仕様です。自前でAIを開発しようとしている研究者がFable 5を使うと、知らないうちに低性能な回答をつかまされていたわけです。

これに対し、Fast.aiの共同創業者であるJeremy Howard氏をはじめとするAI研究者たちがX上で猛反発しました。トップモデルを抱える企業が安全を口実に他者の開発を制限すれば、業界全体のフロンティアの前進が阻まれると批判しました。

謝罪と可視化、そして国家安全保障の論理

批判の高まりを受け、Anthropicは水曜日に方針転換を発表しました。同社広報はトレードオフの判断を誤ったとして謝罪し、今週から制限をすべて可視化すると Fortune に明かしました。

新しい仕様では、フラグが立ったリクエストはOpus 4.8へ明示的にフォールバックされ、API経由の場合は拒絶の理由が毎回返されるようになります。

ただし、制限そのものが撤廃されたわけではありません。同社は競合モデルの作成を禁止する利用規約を根拠に挙げるとともに、国家安全保障上の理由を強調しています。米国と同盟国が持つ半導体や最適化ソフトウェアの優位性を守るため、Claudeが敵対国によるチップ開発の最適化などに利用されるのを防ぐ必要があると主張しています。一般的なコーディングや機械学習作業には影響しないとしています。

今回の騒動は、Anthropicが今月初めに非公開でIPOを申請し、さらに米国防総省（戦争省）との法廷闘争の最中にあるという極めて微妙なタイミングで起きました。ピート・ヘグセス戦争長官から「サプライチェーンのリスク」として指定された同社は、安全性とビジネスの板挟みになっています。

なぜ重要か

開発者にとって、バックエンドでのサイレントなダウングレードは最も避けるべき事態です。出力結果の品質が低下した際、プロンプトの不備なのかモデル側の勝手な性能制限なのか切り分けることができず、検証コストが跳ね上がるからです。今回の改修によりAPIで明確な拒否理由が返るようになるため、エラーハンドリングが可能になった点は最低限の救いと言えます。

業界全体で見れば、フロンティアモデルの開発において「自己再帰的な進化」の特権化が進んでいることが浮き彫りになりました。大手ラボが自社モデルによる競合モデルの訓練を禁じるだけでなく、国家安全保障という大義名分を重ねることで、オープンな研究機関や新興勢力が最前線に追いつくハードルはさらに上がっています。

私たちは、今回のAnthropicの初動は大きな悪手だったと考えます。安全性をブランドの核に掲げながら、裏でこっそり低スペックなモデルにすり替える手法は、透明性を重んじる開発者コミュニティへの裏切りと受け取られても仕方がありません。IPOを控えた重要な局面で素早く謝罪し仕様を改めた判断は妥当ですが、一度失われた信頼を取り戻すには時間がかかりそうです。