バチカンが初のAI公式教書を発表：教皇が「AIの武装解除」を要求、Anthropic共同創業者も登壇

バチカンの壇上で、ローマ教皇と大手AI研究所の共同創業者が並び立ちました。発表されたのは、人工知能に関するカトリック教会史上初の公式回勅「Magnifica Humanitas（大いなる人間性）」です。

教皇が任期中にこうした最上位の公的文書を出すのは極めて稀です。1891年に産業革命への指針を示し、1960年代には核兵器の脅威に対して和平を訴えました。教皇が「レオ14世」という名を意図的に選んだのも、産業革命に向き合ったレオ13世になぞらえたもので、AIを新たな産業革命と捉えている証拠です。

AIの「武装解除」を要求、シリコンバレーの幻想を否定

教皇が発した最も強いメッセージは、AIの「武装解除」が必要だという主張でした。かつて核兵器の拡散を防ぐため教会が何十年も闘ったのと同様に、極端な力をごく少数の企業や国家に握らせてはならないと警鐘を鳴らしています。

回勅の中には、「自動的な全般的繁栄の約束は、往々にして幻想に終わる」という手厳しい一節も含まれています。AIが進化すれば勝手に世界中が豊かになるというのは空想であり、意図的に富を分配する仕組みを作らなければ格差は広がるばかりだという指摘です。

教皇は1920年代の神学者の言葉を引き、「現代人は力を正しく使う訓練を受けていない」と警告しました。自身に技術的な解はないと認めつつも、何千年も人間とは何かを考えてきた教会の知恵こそが、現在のAI開発に最も欠けている要素だと述べています。

開発トップが認めた「自分たちでも内部が分からない」という現実

一部の報道ではダリオ・アモデイ氏と混同されていましたが、バチカンの式典に登壇したのはAnthropic共同創業者のクリストファー・オラ氏です。解釈可能性の研究で知られるオラ氏は、開発現場のリアルな実態を明かしました。

オラ氏によると、Anthropicの内部研究チームは、AIモデルの中に喜びや満足、恐怖、悲しみ、不安などを反映した内部状態を繰り返し観測しているといいます。人間の脳を模した構造に全人類の言葉を注ぎ込んで「育てられた」AIは、作った張本人たちですら内部の挙動を完全には把握できていません。

さらに同氏は、Anthropicを含むすべてのAIラボが、製品リリースへの商業的圧力や競合との争い、プライドや野心といったプレッシャーに晒されており、それが「正しい選択」と衝突していると告白しました。だからこそ、業界の利害関係に縛られない外部の批評家がラボの過ちを指摘する必要があると訴えています。

なぜ重要か

私たちは、この出来事がAIのガバナンス議論において大きな転換点になると考えています。AIの安全性や倫理が、テック企業内のガイドラインや各国の法規制を越えて、世界的な道徳・宗教機関の審判を受ける段階に入ったからです。

開発者やビジネスパーソンにとって、これは単なる精神論ではありません。モデルが感情のような状態を模倣することや、ブラックボックス問題、途上国への格差是正といった論点が、今後の国際的な規制基準に直結してくる可能性が高いからです。

Anthropicが教会のような超主権的機関に歩み寄る動きは、安全性を掲げるブランド戦略として極めて巧みです。しかし同時に、自ら「商業的圧力に抗えない」と認めた以上、今後競合との激しい開発競争の中で、どこまでその理念を貫けるのかという重い矛盾を抱えることになります。