Anthropic、安全分類器を刷新：Claude Fable 5の生物学関連フォールバックを85%削減

少し前に Claude Fable 5 を使って血液検査の結果を読み解こうとしたり、風邪の症状について質問したりした際、妙に回答の質が落ちたと感じたなら、それは気のせいではありません。

Anthropic はこれまで、生物学に関連する単語が含まれるプロンプトを受け取ると、安全対策としてより能力の低い Opus 5 へ自動的に処理を切り替える「フォールバック」を行っていました。

Anthropic は 8 月 7 日、Claude Fable 5 の生物学セーフティ分類器をアップデートしたと発表しました。社内テストによると、生物学関連の質問におけるフォールバックの発生率が約 85% 削減されたといいます。

なぜ最初は過剰なまでにブロックしたのか

Fable 5 のリリース当初、Anthropic は生物学関連のクエリをほぼ全般的に遮断するという思い切った措置をとっていました。

背景にあるのは、高度なフロンティアモデルが悪用された場合のリスクです。Anthropic によると、Fable 5 は特定の高度な生物学的タスクにおいて人間の専門家を上回る性能を持ち、実際の作業手順まで支援できるレベルに達しています。これが悪意ある人物に渡れば、生物兵器の製造支援につながりかねません。

米情報機関による 2026 年の「年次脅威評価」でも、合成生物学やゲノム編集の進展が新たな生物学的脅威をもたらす可能性や、一部の国家が推進する生物化学兵器開発がフロンティア AI によって加速する懸念が指摘されています。

生物学では、治療薬の研究と兵器開発の境界線を見極めることが極めて困難です。たとえば降圧薬カプトプリルの開発にはヒトの血圧を急降下させるヘビ毒の単離が必要であり、生ワクチンの開発には危険な病原体そのものの培養が欠かせません。悪意ある攻撃者は、危険な意図を正当な研究のように偽装する術を熟知しています。

Anthropic はモデル全体の公開を何ヶ月も遅らせることを避け、初期段階では誤検知のリスクを承知のうえで、安全マージンを極端に広く取った分類器を採用していました。

専門家の助言で憲法を書き換え、日常的な医療相談を解放

ここ数週間、同社はセーフティ分類器のルールブックにあたる「憲章」を書き直し、社内外の専門家からのフィードバックを取り入れながら、無害なユースケースを詳細に定義し直しました。

その結果、検査データの解釈や一般的な体調不良の相談、教育現場での生物学学習といった日常的な用途では、Fable 5 が本来の知能を発揮できるようになりました。医療従事者による臨床タスクの支援も強化されます。

一方で、ウイルス学、毒性学、分子設計といったデュアルユース（軍民両用）のリスクが高い領域については、引き続き Fable 5 の利用が制限され、Opus 5 へ降格されます。現時点では、専門的な創薬開発に Fable 5 をフル活用することはできません。

Anthropic は今後、製薬企業や公認の研究機関を対象とした「信頼できるアクセス経路」を別途整備し、安全性を確認した上でフロンティア機能を開放していく方針です。

なぜ重要か

一般ユーザーや臨床医にとって、今回の変更は実用性を大きく引き上げる改善です。専門用語を使っただけでモデルの知能が勝手に落とされる心配がなくなり、高度なヘルスケアのアシスタントとして Fable 5 を試しやすくなりました。ただし、創薬やバイオテクノロジーの現場で働く研究者にとっては、もっとも使いたい機能が依然として制限されている状態が続いています。

私たちは、危険な領域だけを旧世代モデルへ自動退避させる Anthropic のアプローチは、安全とリリースのスピード感を両立させる上で現実的な判断だったと考えます。モデル自体の能力を最初から削るのではなく、外側の分類器でリスクを管理し、後から精度を高めていく手法は理にかなっています。

しかし、この先用意されるという「信頼できるアクセス経路」の運用には課題が残ります。世界中のどの研究者に権限を与え、どのように不正利用を防ぐのかという線引きは極めて厄介です。審査基準が厳しすぎたり時間がかかりすぎたりすれば、バイオ分野の研究者たちがガードレールのないオープンウェイトのモデルへ流出する引き金にもなりかねません。