ローマ教皇レオ14世、国連に自律型兵器の禁止を要請：「機械は道具であり人間ではない」

テクノロジー業界や法学者がAIに意識が宿るかどうかを議論している裏で、バチカンはその境界線を極めて明快に引き直しました。

10月30日の教皇演説で、ローマ教皇レオ14世は国連加盟国に対し、来月ジュネーブで開かれる会議で致死性自律型兵器を禁止するための具体的措置を講じるよう求めました。AIシステムは「武装解除」されるべきであり、人間はその利用を導き、修正し、必要であれば拒絶する責任を負っていると訴えています。

引き金をアルゴリズムに預けない

来月にジュネーブで控える国連会議を前に、教皇が真っ向から標的に据えたのは戦場で広がるAI兵器です。

人の命や自由、そして武力行使に関わる判断は、常に十分な情報を持った責任ある人間の監視下に置かれ続けなければならないと教皇は強調しました。要するに、命を奪う判断をプログラムへ丸投げすることは断じて認められないという立場です。

バチカンがこの警鐘を鳴らすのは今回が初めてではありません。2024年には前教皇フランシスコも自律型兵器の禁止を訴え、「人間の命を奪う選択を機械にさせてはならない」と語っていました。

機械は道具であり、人ではない

レオ14世は今回、さらに踏み込んで法的な議論の危うさに釘を刺しました。AIシステムに権利や法人格を与える危険性を強く戒め、「機械は道具であり人間ではない」と言い切っています。

この考え方は、AI時代における人間の尊厳の保護を掲げた今年5月の就任初となる重要文書の精神を引き継いだものです。

興味深いことに、レオ14世は自らの教皇名を選んだ理由にも触れました。かつて産業革命の最前線で教会を率いたレオ13世と同じく、自らも技術の急速な進展に正面から立ち向かわなければならない使命があるためだと語っています。

教皇は演説の締めくくりとして、国際機関による共通基準の策定、独立した監視組織、そして明確な説明責任の仕組み作りを提唱しました。AIの開発や利用に関わる決定は審査され、必要に応じて異議が申し立てられ、被害が生じた際には適切な救済が行われなければならないとしています。

なぜ重要か

軍事防衛分野が最先端AIの最も巨大な収益源になりつつある現在、教皇のこの問題提起は極めて的確です。

私たちは、教皇が「自律型兵器の禁止」と「AIへの法人格付与の否定」をセットで主張した点を高く評価しています。AIを人間のように見立てて権利の有無を語る議論は一見先進的に見えますが、実態としては軍事企業や指揮官にとっての格好の免責特権になりかねません。誤爆が起きたときにアルゴリズムの暴走だと片付けられれば、誰も責任を取らなくなってしまいます。

機械はあくまで道具であると定義し直すことは、責任の所在を確実に人間に結びつけ続けることを意味します。道具が人を殺したとき、裁かれるべきは道具ではなく引き金を引いた人間です。

もっとも、来月のジュネーブ会議ですぐに全面禁止条約が結ばれる可能性は高くありません。各国がドローンや無人兵器の自律化を競い合う現状において、実効性のある合意を取り付けるのは容易ではないはずです。それでも、国際法と倫理の根本において、AIを人間の免罪符にしてはならないという明確な歯止めをかけた意義は小さくありません。