Anthropicが生命科学検証プログラムを開始：審査制で生物学の安全制限を緩和

バイオテクノロジーの現場で働く研究者にとって、ワクチンの免疫応答を調べようとしただけで、AIから生物兵器の製造を疑われて回答を拒絶される体験は日常茶飯事でした。

Anthropicはこの問題に正面から手を入れてきました。同社は9月17日、生命科学分野の専門機関向けに安全フィルターを緩和する新制度「Life Sciences Verification Program（LSVP）」を発表しました。Mythos 5.1、Opus 5、Sonnet 5を対象としたベータ版プログラムです。

通常業務向けと高リスク研究向けの2段階認可

これまで一般提供されていたモデルでは、創薬や臨床開発、製造プロセスに関わる多くの正当なリクエストまで安全装置によって弾かれていました。LSVPでは、研究者の適格性、セキュリティ基準、倫理審査体制をAnthropicが事前に審査し、2種類の利用枠を発行します。

ひとつ目は「Standard Use（標準利用）」枠です。基礎科学から規制対応まで幅広い日常業務を想定しており、チーム全体に付与されて年1回の更新となります。科学タスク向けの判定基準が見直され、誤検知によるブロックが大幅に減ります。

もうひとつが「High-risk Use（高リスク利用）」枠です。標準枠でも遮断されるデュアルユース（軍民両用）の懸念がある研究向けで、ライフサイエンス関連の安全ガードレールが完全に解除されます。こちらはチーム単位ではなく特定プロジェクト単位で付与され、6カ月ごとの更新が必要です。

高リスク枠はOpus 5とSonnet 5で即日利用可能ですが、最上位のMythosについては米政府との協議が続いており、厳格な追加審査を通過したごく一部の組織のみに限定されます。なお、サイバー攻撃対策などの安全機能は免除されません。

リアルタイム遮断から30日間の事後ログ監視へ

今回の最大の変化は、安全監視の仕組みそのものが変わった点です。入力プロンプトをその場で判定して遮断する従来方式をやめ、利用ログをバックグラウンドで事後監視するオフライン分析へと移行しました。

悪意ある利用者は指示を複数回に分散させて検知をすり抜ける傾向があり、リアルタイム遮断は正当な研究を止めるばかりで効果が薄いという判断です。LSVPでは組織があらかじめ申告した用途と実際のトラフィックを照合し、不審な挙動があれば組織の管理者に通知します。

このオフライン監視を実施するため、LSVP経由のデータは30日間保持されます。Anthropicによると、保持データは厳重に隔離され、モデルの再学習には使われず、同社の社内生命科学チームからも閲覧できない仕組みになっています。利用はEnterpriseおよびTeamプランのAPIやClaude Scienceなどで可能ですが、個人向けプランやHIPAA対象組織は現時点で対象外です。

なぜ重要か

バイオ研究者にとって、フロンティアモデルの過剰なガードレールは研究スピードを削ぐ最大のストレスでした。拒絶されるたびにプロンプトの言い回しを工夫したり、安全制限のない性能の劣るオープンモデルに頼ったりしていた現場にとって、業務効率の改善は確実に見込めます。

Anthropicの判断は非常に現実的だと評価できます。プロンプト単体で善意の研究と悪意の攻撃を見分ける技術的な限界を認め、組織の身元確認と事後監査に責任を移した格好です。AIの安全性を保ちながら産業用途へ深く入り込む現実解を示しました。

ただし、課題もあります。30日間のデータ保持要件は、機密性の高い創薬特許を扱う製薬企業にとって導入の心理的ハードルになります。また高リスク枠で生物関連の保護を完全に外す以上、アカウント乗っ取りや内部不正が起きた際、事後分析だけで被害を食い止められるのかは今後の運用次第と言えます。