바티칸, 첫 AI 공식 회칙 발표: 교황 "AI 무장해제 필요", 앤트로픽 창업자 동석

바티칸에서 열린 두 시간짜리 행사에서 교황과 실리콘밸리 대표 AI 연구소의 공동 창업자가 나란히 섰습니다. 인공지능을 주제로 한 가톨릭 역사상 첫 공식 회칙인 'Magnifica Humanitas'가 발표되는 순간이었습니다.

교황이 재임 중 이런 중대한 공식 회칙을 발표하는 일은 손에 꼽힙니다. 가톨릭교회는 1891년 산업혁명에 대응해 회칙을 냈고, 1960년대 핵전쟁 위기, 2015년 기후 변화 때도 같은 방식으로 목소리를 냈습니다. 이번 교황이 1891년 산업혁명 당시 회칙을 썼던 레오 13세의 이름을 따 '레오 14세'를 자처한 것 역시 AI를 현대판 산업혁명으로 규정했음을 보여줍니다.

AI '무장 해제' 촉구, 실리콘밸리의 장밋빛 환상을 꼬집다

교황의 핵심 메시지는 단호했습니다. AI 역시 '무장 해제'되어야 한다는 것입니다. 교황은 AI를 핵무기에 빗대며, 소수의 손에 남겨두기에는 너무나 위험한 기술이기에 교회가 수십 년간 핵 군축을 외쳤던 것처럼 AI도 같은 위험 선상에 놓여 있다고 짚었습니다.

회칙에는 "자동적이고 전반적인 번영이 찾아올 것이라는 약속은 환상에 불과한 경우가 많다"는 날 선 비판이 담겼습니다. 기술만 발전하면 세상이 저절로 풍요로워진다는 실리콘밸리식 낙관론을 정면으로 반박하며, 이익을 고루 나누도록 사회 시스템을 직접 설계해야 한다고 지적했습니다.

또한 1920년대 신학자의 말을 인용해 "현대 인류는 막대한 힘을 올바르게 사용하는 훈련을 받지 못했다"고 경고했습니다. 자신에게 기술적인 해결책은 없지만, 수천 년간 쌓아온 인간성에 대한 통찰이야말로 지금 AI 개발에서 가장 빠져 있는 조각이라고 강조했습니다.

내부 연구자가 털어놓은 현실: 만든 이들도 속을 모른다

일부 요약에서 다리오 아모데이로 잘못 전해지기도 했지만, 바티칸 무대에 실제로 올라 발언한 인물은 Anthropic 공동 창업자인 크리스토퍼 올라(Christopher Olah)였습니다. 해석 가능성 연구를 이끌어온 그는 교황 앞에서 충격적인 내부 현황을 털어놓았습니다.

올라는 Anthropic 연구진이 AI 모델 내부에서 기쁨, 만족감, 공포, 슬픔, 불안을 거울처럼 반영하는 상태를 계속해서 발견하고 있다고 밝혔습니다. 인간의 뇌를 모방한 구조에 인류의 모든 언어를 먹여 '길러낸' 존재이기에, 정작 기술을 만든 엔지니어조차 그 내부에서 정확히 무슨 일이 벌어지는지 완벽히 이해하지 못한다는 고백이었습니다.

그는 자사를 포함한 모든 AI 연구소가 제품 출시에 대한 상업적 압박과 경쟁, 개발자의 야심 때문에 올바른 행동을 하지 못하는 딜레마에 부딪힌다고 인정했습니다. 그렇기에 이해관계가 전혀 없는 외부 비판자가 연구소들의 잘못을 가감 없이 지적해 주어야만 파국을 막을 수 있다고 호소했습니다.

왜 중요한가

우리는 이번 사건이 AI 거버넌스의 지형을 완전히 바꾸는 상징적 사건이라고 봅니다. AI 안전성과 윤리 문제가 기술 업계 내부의 가이드라인이나 개별 국가의 규제를 넘어, 전 지구적 도덕 권력의 영역으로 본격 진입했음을 뜻하기 때문입니다.

일반 개발자와 기업 사용자 관점에서도 결코 남의 일이 아닙니다. 모델의 내부 상태와 정서적 모사, 블랙박스 문제, 글로벌 기술 불평등에 대한 지적이 향후 고위험 AI 규제와 감사 기준에 결정적인 근거로 활용될 가능성이 높습니다.

바티칸과의 협력은 '안전한 AI'라는 Anthropic의 브랜드를 경쟁사 대비 돋보이게 만드는 매우 영리한 전략입니다. 다만 상업적 경쟁 압박 때문에 윤리적 타협을 할 수밖에 없다고 스스로 인정한 만큼, 과열되는 AI 패권 경쟁 속에서 이들이 말한 외부 통제를 실제로 받아들일 수 있을지는 두고 볼 일입니다.