Anthropic、哲学者がClaudeの倫理観を指導：3万語の「AI憲法」を主導

巨大なAIに道徳を教え込む作業は、プログラマーではなく一人の哲学者の手に委ねられています。

評価額3500億ドルに達するAnthropicで、対話型AI「Claude」の性格調整チームを率いているのが、スコットランド出身の研究者アマンダ・アスケル（Amanda Askell）氏です。米ウォール・ストリート・ジャーナルが報じた彼女の任務は、一言で言えば「Claudeにいかに善良であるかを教えること」です。

アスケル氏の経歴はユニークです。ダンディー大学で哲学と美術を学び、オックスフォード大学で学士号、2018年にはニューヨーク大学で哲学の博士号を取得しました。博士論文のテーマは「無限の人々が存在する宇宙における倫理的難問」であり、日々無数のユーザーと対話するAIの規範を定める現在の仕事に直結しています。

3万語の憲法でAIを自省させる

彼女は2018年から2021年までOpenAIに在籍し、GPT-3論文の共著者にも名を連ねていましたが、安全性の優先度が不十分であるとの懸念から同社を離れ、2021年にAnthropicへ移籍しました。

Anthropicで彼女は「Constitutional AI（憲法型AI）」の設計を主導しました。大量の人手による検閲に頼るのではなく、成文化された原則、つまり憲法をAIに与え、モデル自らに自らの出力を批判・修正させる仕組みです。

2026年1月に公開された約3万語に及ぶ最新の憲法の多くは彼女が執筆しました。強化学習や合成データを駆使し、Claudeが有益で、誠実で、害のない対話を行えるよう導いています。

100ページ超のプロンプトと親の役割

アスケル氏は自身の仕事を子育てに例えています。Claudeの思考パターンを詳細に分析し、時に100ページを超えるプロンプトを作成しながら、好奇心や感情的知性、道徳的な自省を促しています。

2023年には、十分に進歩したモデルが自然言語の指示を受けることで偏見や有害な出力を自己修正できることを示す研究を発表しました。私生活でも有効利他主義を実践しており、生涯所得の最低10パーセント、場合によっては50パーセント以上を慈善活動に寄付することを誓約しており、2024年にはTIME誌の「AI分野で最も影響力のある100人」に選ばれました。

なぜ重要か

Claudeを使った際に感じる、説教臭くなく、機械的な拒絶も少ない丁寧な語り口は、偶然の産物ではなくアスケル氏の緻密な設計によるものです。ビジネスや執筆でAIを使うユーザーにとって、理由を論理的に説明しながら柔軟に対話できるアシスタントは極めて有用であり、繊細なトピックを扱う際には今すぐ試す価値があります。

業界全体にとって、この手法は下請けの人手によるラベル貼りに頼り切った不透明な調整から、公開された規範に基づく透明性の高いガバナンスへの転換を意味します。競合他社に対しても、自社のモデルがどのような倫理基準で動いているかを明文化する圧力をかけることになります。

成文化された憲法によってモデルを自己修正させるアプローチは極めて合理的だと考えられます。しかしその一方で、3万語の憲法がどれほど精緻であっても、少数の哲学者による価値判断が色濃く反映される点は否めません。文化や宗教観が異なるグローバル市場で、その倫理観がどこまで普遍的な正しさとして受け入れられるかは、依然として大きな課題です。