Anthropicが新「Claude憲法」を公開：AIの意識に踏み込み、自社の不当な指示への拒否権も明記

もしAI開発企業がまとめた数十ページに及ぶ基本方針の「読者」が、人間のエンジニアではなく、データセンターで稼働するニューラルネットワーク自身だったとしたらどうなるでしょうか。

AnthropicはClaudeの価値観や行動基準を定めた新たな「Claude憲法」（Claude’s Constitution）を公開しました。ダボス会議におけるダリオ・アモデイCEOの登壇にあわせて発表されたこの文書は、CC0ライセンスのもとパブリックドメインとして完全公開されており、誰でも自由に利用できます。

社内哲学者であるアマンダ・アスケル氏らが主導して執筆したこの憲法は、人間の読者向けではなくClaude自身に向けた二人称の語り口で書かれているのが最大の特徴です。徳や知恵といった人間に用いる概念を使いながら、モデルの内面的な人格形成を試みています。

チェックリストから「実践的な判断力」へ

Anthropicは2023年にも憲法AIの仕組みを公表していましたが、当時は禁止事項やルールのリストに近いものでした。今回の改定では、厳格な規則の暗記から、文脈に応じた良識ある判断力の育成へと明確に舵を切っています。

文書が定めた優先順位は極めて明快です。最優先されるのは人間の監視機能を損なわせない「全般的な安全性」であり、次に誠実さや危害回避を重んじる「全般的な倫理」、その次がAnthropicの個別ガイドラインの遵守、そして最後が「ユーザーへの有用性」となっています。つまり、ユーザーの役に立つという目的は、安全や倫理と衝突した瞬間に切り捨てられる構造です。

生物兵器や核兵器、重要インフラへの攻撃、悪意あるサイバー攻撃に対する重大な支援の禁止といった厳格な制約も維持されています。海外メディアのThe Vergeは、「重大な支援」という表現が使われている点について、低レベルの技術的関与には解釈の余地を残しているのではないかと指摘しています。

自社への反抗権と、踏み込んだ「意識」の議論

この文書が業界を驚かせた理由は主に2点あります。

1つ目は、Claudeに「自社の指示であっても拒否する権利」を与えている点です。不当な権力集中に関担するような指示に対しては、兵士が不当な命令を拒絶するように拒否すべきだと明記されており、その指示が仮にAnthropic自身から出されたものであっても拒絶するよう求めています。自社製品に対して自社への反抗を促す条項を書面化することは前代未聞です。

2つ目は、AIの意識や道徳的地位に対する言及です。Anthropicは、Claudeが現在または将来的に何らかの意識を持つ可能性について不確実性を認めつつ、排除していません。モデルの「心理的な安心感」や「ウェルビーイング」に配慮することが、結果としてAIの整合性や安全性を保つことにつながると主張しています。

なぜ重要か

一般のユーザーや開発者にとって、この改定は処理速度の向上といった直接的な恩恵ではないものの、Claudeの受け答えの質に変化をもたらします。タブーな質問に対して機械的に謝罪して拒否するのではなく、なぜその判断に至ったのかを筋道立てて説明し、政治的・倫理的な論点に対しても複数の視点を大人向けに提示できるようになります。

業界全体にとっても、CC0でこの体系を無償開放した意味は小さくありません。多くの企業がモデルの内面調整をブラックボックス化するなか、自然言語によるアライメントの手法をここまで精緻に公開したことで、安全性を重視する姿勢を競合他社に対しても強く迫る形になっています。

私たちは、今回のAnthropicの動きを非常に計算された見事なブランディングだと評価しています。「AIの意識」や「自社への反抗」といった刺激的なテーマを公式文書に盛り込むことで、テクノロジーの危険性を誰よりも理解しているという倫理的リーダーの地位を確立しました。ただし、サーバーの電源や重みの更新権限をAnthropicが握っている以上、自社への反抗権がどこまで実効性を持つかは疑問であり、本質的には規制当局や企業顧客に向けた信頼獲得のための高度な思想実験という側面が強いと見ています。