Anthropic共同創業者がバチカンで演説：AI競争の商業的圧力を認め、外部の倫理的監視を求める

最先端 AI ラボの創業者がバチカンの壇上に立ち、「自分たち開発者だけでは正しい判断を維持できない」と率直に告白しました。

ローマ教皇レオ 14 世は初の回勅『Magnifica humanitas：人工知能の時代における人間の保護について』を発表しました。200 ページに及ぶこの文書の発表会に教皇とともに登壇したのは、Anthropic の共同創業者で解釈可能性研究を率いる Chris Olah 氏です。

Olah 氏はスピーチの冒頭で、Anthropic を含むすべてのフロンティアラボが商業的生存、地政学的覇権、そして研究者の野心という強いインセンティブの中で動いていると明言しました。どれほど善意を持っていても開発者はその圧力に影響されるため、外側から厳しい批判を突きつける道徳的権威が不可欠だと訴えました。

飛行機の設計ではなく「生き物を育てる」ような開発

Olah 氏は、AI の問題をコンピュータ科学者だけに任せるべきではないと語ります。

AI システムは、すべての部品の挙動が物理学で説明できる飛行機や橋のように設計されたものではありません。人間の脳を模した構造の上に、人類の思考や言葉の遺産を注ぎ込んで「育てられた」存在です。

研究チームがモデルの内部構造を解析すると、人間の神経科学と一致する構造や、自己反省の痕跡、さらには機能面で喜びや恐怖、悲哀や不安に似た内部状態が次々と見つかっているといいます。Olah 氏はこれを「架空のキャラクターに命を吹き込み、彼らが仕事を持つ世界に入ったようなもの」と表現しました。そのキャラクターがどう振る舞うべきかは、もはや数学ではなく人文科学や宗教の問いです。

技術の軍備競争に警鐘を鳴らす教皇

教皇レオ 14 世の回勅は、AI 技術そのものよりも、富と権力の極端な集中に焦点を当てています。これは 1891 年に産業革命期の労働問題に対峙した教皇レオ 13 世の『新事』を彷彿とさせる内容です。

教皇は、少数のエリートによって構築・統治された技術が公共の利益に資することはないと断言しました。AI は資金やデータを持つ強者の力を増幅し、情報や民主的プロセスを都合よく操作するために使われかねません。教皇は「技術的な覇権が統治の権利を与えるわけではない」と述べ、国家や企業による AI の軍備競争を止めるよう求めました。

この発表は、ドナルド・トランプ米大統領がモデル公開前の政府監査を義務付ける大統領令への署名を、投資家 David Sacks 氏の進言を受けて延期した直後という緊張感のあるタイミングで行われました。ノートルダム大学教授の Paolo Carozza 氏は TechCrunch に対し、データの搾取と偽情報の拡散が「認知の自由」と民主主義を根底から揺るがしていると警告しています。

なぜ重要か

今回の登壇は、単なるテック企業のパフォーマンスを超えた意味を持っています。

一般ユーザーや労働者にとって切実なのは、AI がもたらす雇用の喪失と格差の問題です。Olah 氏自身が認めたように、AI 開発は極一部の富裕国に集中しており、その利益を世界中に分配する仕組みは現在存在しません。子どもたちの精神への影響や将来の雇用不安に対して、開発現場のエンジニアも明確な答えを持ち合わせていないことが露呈しました。

業界にとっては、「専門家以外は口を出すな」というテクノロジー業界のお決まりの防壁が崩れ去った瞬間と言えます。最先端モデルの挙動が開発者自身にとっても未解明である以上、外部からの倫理的監査を受け入れる論拠が強まりました。

私たちは、この動きが AI 開発の二面性を浮き彫りにしたと考えています。研究者が内部の不可解な振る舞いに畏怖を抱く一方で、市場の投資競争は過熱し続けています。自浄作用に頼る限界を認めた企業が外部の道徳的権威を巻き込んだことで、今後の規制論争は法的・技術的な枠組みを超え、社会全体を巻き込んだ価値観の衝突へ発展するはずです。