앤트로픽 공동창업자 바티칸 연설: 상업적 압박 인정하며 외부 윤리 감시 촉구

최첨단 AI 연구소의 공동 창업자가 바티칸 연단에 올라, 기술을 개발하는 당사자들에게만 세상을 맡겨둘 수 없다고 공개 고백했습니다.

교황 레오 14세는 인공지능 시대의 인간 존엄성을 다룬 첫 회칙 '위대한 인간성(Magnifica humanitas)'을 발표했습니다. 약 200쪽에 달하는 이 회칙 발표장에는 Anthropic 공동 창업자이자 신경망 해석 가능성 연구를 이끄는 Chris Olah가 교황과 함께 연사로 나섰습니다.

Olah는 Anthropic을 포함한 모든 선도 연구소가 상업적 생존, 지정학적 패권, 개인적 야망이라는 복합적인 압박 속에서 움직이고 있다고 털어놓았습니다. 연구자 개인이 아무리 선한 의도를 품고 있더라도 이런 시장의 유인책에서 자유로울 수 없기 때문에, 이해관계 밖에서 냉정한 비판을 던져줄 외부의 도덕적 권위가 절실하다고 말했습니다.

비행기가 아닌 생명체를 키워낸 연구실

Olah는 AI를 둘러싼 질문들이 이미 컴퓨터 과학의 영역을 벗어났다고 단언했습니다.

물리 법칙에 따라 모든 부품을 통제하며 설계하는 비행기나 교량과 달리, 대형 AI 모델은 인간의 언어와 생각을 양분 삼아 뇌 구조를 본떠 '길러낸' 존재에 가깝습니다.

Olah의 연구팀이 모델 내부를 들여다본 결과는 연구자들 스스로에게도 기이하고 불안한 수준이었습니다. 인간 신경과학 연구와 일치하는 내부 구조가 발견되었고, 모델이 스스로를 성찰하는 증거와 함께 기쁨, 두려움, 슬픔, 불안과 기능적으로 유사한 내부 상태까지 포착되었습니다. Olah는 이를 두고 가상 인물에 생명을 불어넣어 사회에서 일하게 만든 셈이라며, 이 캐릭터가 어떻게 행동해야 하는지는 수학이 아닌 인문학과 철학이 답해야 한다고 강조했습니다.

기술 엘리트의 독점에 브레이크를 건 교황

교황 레오 14세의 회칙은 AI 기술 자체보다 기술이 불러올 권력과 부의 집중에 칼날을 겨눴습니다. 1891년 산업혁명의 부작용을 비판했던 레오 13세의 '새로운 사태'를 계승한 셈입니다.

교황은 소수 엘리트가 만들고 통제하는 기술은 본질적으로 공공의 선을 섬길 수 없다고 경고했습니다. AI가 자본과 데이터, 기술을 쥔 기득권의 힘을 증폭시켜 민주주의와 정보 유통을 교란할 위험이 크다는 지적입니다. 교황은 기술적 지배력이 곧 사회를 통치할 권리를 의미하지 않는다며, 기업과 국가 간의 AI 군비경쟁을 멈추고 '기술적 무장해제'에 나서야 한다고 촉구했습니다.

이 발표는 도널드 트럼프 미국 대통령이 벤처 투자자 David Sacks의 조언에 따라 출시 전 정부 검증을 의무화하려던 AI 행정명령 서명을 미룬 직후 나왔습니다. 메타 감독위원회 의장이자 교황청 사회과학원 위원인 Paolo Carozza 교수는 언론 인터뷰에서 IT 기업들의 무분별한 데이터 수집과 딥페이크가 인간의 인지적 자유와 민주주의를 위협하고 있다고 비판했습니다.

왜 중요한가

우리는 최첨단 AI 기업의 핵심 인사가 바티칸을 찾은 이번 사건을 단순한 이미지 쇄신용 이벤트로 보지 않습니다.

일반 시민과 노동자 입장에서 이번 발표는 매우 뼈아픈 현실을 짚었습니다. AI 개발이 극소수 부유한 국가에 집중되어 있음에도 그 혜택을 전 세계로 나눌 분배 장치는 전무합니다. Olah의 말대로 아이들의 정서와 미래 일자리에 대한 불안은 현실이 되었지만, 정작 모델을 만든 연구진조차 이 파장을 통제할 사회적 해법을 갖고 있지 않습니다.

AI 업계 관점에서도 큰 균열이 생겼습니다. 그동안 실리콘밸리는 기술적 복잡성을 방패 삼아 외부 규제를 밀어내 왔지만, 정작 핵심 개발자가 모델 내부의 미스터리함을 인정하고 업계의 자정 능력 한계를 고백해 버렸기 때문입니다.

우리가 보기에 진짜 딜레마는 바로 여기에 있습니다. 연구자들은 모델 내부의 감정 유사 반응과 불투명성에 두려움을 느끼면서도, 시장의 경쟁 압박 때문에 개발 속도를 늦추지 못하고 있습니다. 결국 기술 기업의 내부 양심에만 안전을 맡겨둘 수 없다는 사실이 명백해진 만큼, 종교와 시민사회를 포함한 외부의 거센 개입은 이제 피할 수 없는 흐름이 될 것으로 보입니다.