Anthropicが米核安全保障局と提携、Claudeに対話監視用AIを導入

原子力発電を動かす物理学の基本原理は、そのまま核兵器の製造にもつながる危険性を秘めています。AIモデルが急速に進化するなか、国家安全保障を脅かすような技術知識がAI経由で漏れ出さないかという懸念は、民間企業単独では検証が極めて困難な問題でした。

Anthropicは、米エネルギー省（DOE）傘下の国家核安全保障局（NNSA）および国立研究所と共同で、核関連のリスクを監視するAI分類器を開発したと発表しました。事前テストにおいて、無害な対話と危険な核関連の対話を96%の精度で見分けることに成功したとしています。

この分類器はすでにClaudeの実環境トラフィックに導入されており、初期データでも良好に機能していると説明されています。同社はこの枠組みを、主要AI開発企業が参加するフロンティア・モデル・フォーラム（Frontier Model Forum）でも共有する方針です。

国家の専門機関と組んで危険対話を検知

Anthropicは以前からこの問題に取り組んでおり、昨年4月にNNSAと提携してモデルの核拡散リスクの評価を開始していました。今回はリスクを評価する段階から一歩進み、実際の会話を常時監視するツールの実用化に踏み込んだ形です。

開発された分類器は、ユーザーとClaudeとのやり取りを自動で解析し、通常の学術的な議論なのか、兵器開発につながる懸念すべきリクエストなのかをリアルタイムで判別します。

同社は、初期の実装データを見る限り、実際のClaudeの運用環境でもこの分類器が正常に機能していると報告しています。

なぜ重要か

一般ユーザーや研究者にとっては、通常の物理学やエネルギー関連の質問が不当に止められない限り、日常的な使い勝手への影響はほぼありません。ただし、境界線上にある高度な核技術の質問に対しては、Claudeの回答制限が以前より厳格になる可能性があります。

業界全体にとって、今回の動きは官民連携（PPP）の極めて具体的な前例となります。最高機密に関わる核リスクの判定は、どれほど優れたテック企業であっても自社だけで判断基準を作ることはできません。国家の専門機関を巻き込んで検知器を開発し、その成果を業界団体へ共有するアプローチは非常に現実的かつスマートです。

もっとも、事前テストでの精度が96%ということは、裏を返せば4%のすり抜けや誤判定が存在することを意味します。核拡散という極めてクリティカルな領域において、巧妙なプロンプトによる回避工作をこの自動分類器だけでどこまで防ぎ続けられるかは、今後も注視が必要です。