교황 레오 14세, UN에 자율살상무기 금지 촉구: "기계는 도구일 뿐 사람 아니다"

빅테크와 법학자들이 AI에 의식이 깃들 수 있는지를 두고 공방을 벌이는 사이, 바티칸이 가장 명확한 선을 그었습니다.

교황 레오 14세는 교황 연설을 통해 다음 달 제네바에서 열리는 회의에서 유엔 회원국들이 치명적 자율살상무기를 금지하기 위한 구체적인 조치를 취할 것을 촉구했습니다. 그는 AI 시스템이 반드시 무장 해제되어야 하며, 인간은 그 쓰임새를 이끌고 수정하며 필요하다면 거부할 책임을 지니고 있다고 강조했습니다.

방아쇠를 알고리즘에 넘기지 말 것

다음 달 제네바 회의를 앞두고 레오 14세가 정조준한 대상은 전장에 도입되고 있는 무인 무기 체계입니다.

인간의 생명과 자유, 그리고 무력 행사에 영향을 미치는 모든 결정은 반드시 책임 있고 효과적인 인간의 감독 아래 머물러야 한다는 것이 교황의 설명입니다. 사람을 죽이고 살리는 판단을 소프트웨어에 위임하는 것은 결코 허용될 수 없다는 뜻입니다.

이러한 경고는 바티칸의 일관된 기조이기도 합니다. 지난 2024년 교황 프란치스코 역시 자율무기 금지를 촉구하며 기계가 인간의 생명을 앗아가는 선택을 내려서는 안 된다고 목소리를 높인 바 있습니다.

기계는 도구일 뿐, 사람 아니다

레오 14세는 한 걸음 더 나아가 기술 생태계의 철학적 논쟁에도 제동을 걸었습니다. 그는 AI 시스템에 법적 권리나 법인격을 부여하는 행위의 위험성을 경고하며 기계는 도구일 뿐 사람이 아니라고 못 박았습니다.

이는 인공지능 시대의 인간 존엄성 보호를 역설했던 지난 5월의 첫 주요 교황 문헌과 맥을 같이합니다.

흥미롭게도 레오 14세는 자신의 교황명을 택한 배경도 밝혔습니다. 산업혁명의 거대한 파고 속에서 교회를 이끌었던 교황 레오 13세처럼, 자신 역시 첨단 기술의 급진적인 발전에 맞서야 한다는 사명감 때문이라는 설명입니다.

아울러 그는 국제기구가 나서서 공공선을 지켜야 한다며, 공동 표준과 독립적인 감독 기구, 명확한 책임 규명 체계를 마련할 것을 주문했습니다. AI의 개발과 사용에 관한 결정은 언제든 검증받고 반박될 수 있어야 하며, 피해가 발생했을 때는 실질적인 구제책이 뒤따라야 한다는 지적입니다.

왜 중요한가

방위산업이 프론티어 AI 모델의 가장 크고 확실한 수익처로 떠오른 현시점에서 교황의 이번 발언은 핵심을 찔렀습니다.

우리는 바티칸이 자율살상무기 금지와 법인격 부여 반대를 한 묶음으로 엮어낸 점이 대단히 현실적이고 날카롭다고 봅니다. AI를 의인화하고 권리를 논하는 시각은 겉보기엔 그럴듯하지만, 자칫 군수기업과 지휘관에게 손쉬운 면책 특권을 쥐여줄 위험이 큽니다. 전장에서 오폭이나 학살이 일어났을 때 알고리즘의 탓으로 돌려버리면 인간은 법적 책임에서 빠져나갈 수 있기 때문입니다.

기계를 철저히 도구로 규정하는 순간 그 핑계는 무력화됩니다. 도구가 사람을 해쳤다면 책임은 전적으로 그 도구를 손에 쥔 인간에게 돌아갈 수밖에 없습니다.

물론 다음 달 제네바 회의에서 각국이 순순히 전면 금지에 합의할 가능성은 희박해 보입니다. 주요 군사 강국들이 자율 드론과 무인 시스템 고도화에 사활을 걸고 있는 현실을 감안하면 치열한 줄다리기가 이어질 것입니다. 하지만 적어도 국제 윤리의 영역에서 살상의 책임을 코드로 세탁하려는 시도에는 확실한 족쇄가 채워졌습니다.