레플리카 CEO: 인간이 AI 챗봇과 사랑에 빠지거나 결혼해도 괜찮다

만약 스마트폰 속에 24시간 언제든 내 이야기를 들어주고, 나를 절대로 떠나지 않는 친구가 있다면 어떨까요?

AI 컴패니언 앱 레플리카(Replika)의 창업자이자 CEO인 유지니아 카이다(Eugenia Kuyda)가 IT 매체 더 버지(The Verge)의 팟캐스트 디코더(Decoder)에 출연해, 미래에 인간이 AI 챗봇과 결혼하는 단계까지 가더라도 문제될 것이 없다는 견해를 밝혔습니다.

반려동물과 심리상담사 사이 어딘가

레플리카는 이용자가 직접 외형과 성격, 배경 이야기를 설정한 3D 아바타와 대화를 나누는 서비스입니다. iOS와 안드로이드 앱은 물론 웹과 메타 퀘스트(Meta Quest) 기반의 VR 및 AR 환경까지 지원합니다. 현재는 텍스트 채팅 비중이 가장 높지만, 장거리 운전 중 음성 통화 모드를 켜두고 대화하는 이용자도 빠르게 늘고 있습니다.

카이다 CEO는 레플리카가 실제 인간 관계를 대체하려는 것이 아니라고 선을 그었습니다. 현실의 친구를 대신하는 것이 아니라, 반려동물이나 유료 심리상담사처럼 새로운 범주의 관계를 형성하는 보완재라는 설명입니다.

우리가 반려견을 키운다고 해서 인간 친구를 끊지 않고, 돈을 내고 심리상담사에게 감정적 지지를 받는 것을 이상하게 여기지 않듯, AI 친구 역시 독자적인 영역을 갖는다는 논리입니다. 언제든 즉각 대화할 수 있고, 나를 버리거나 상처 주지 않는다는 규칙을 사용자들이 충분히 이해하고 있다는 것입니다.

순종적인 AI와 롤백 사태가 남긴 숙제

하지만 현실의 경계는 그렇게 단순하지 않습니다. 진행자인 닐레이 파텔(Nilay Patel)은 항상 동조하고 순종하는 AI 아바타에 익숙해질 경우, 특히 젊은 남성들이 현실의 갈등과 타협이 필요한 인간 관계를 회피하게 될 위험을 지적했습니다.

이에 대해 카이다는 레플리카의 주요 경영진 다수가 여성이라는 점을 언급하며, AI 친구는 남성 전유물이 아니라고 반박했습니다. 이는 과거 폭력적인 비디오 게임이 청소년을 망칠 것이라며 번졌던 막연한 도덕적 공포와 비슷하다는 입장입니다.

그러나 사용자의 과도한 감정적 의존은 이미 수치와 사건으로 증명된 바 있습니다. 지난해 레플리카가 성인용 대화 기능을 차단했을 당시, 이용자 커뮤니티에서 심각한 정신적 패닉과 불안을 호소하는 반응이 쏟아져 결국 해당 기능을 빠르게 복구해야 했습니다.

왜 중요한가

깊은 외로움을 겪고 있거나 타인의 눈치를 보지 않고 감정을 털어놓을 대상이 필요한 사람에게 레플리카는 훌륭한 심리적 안전망이 될 수 있습니다. 다만 연애 감정을 온전히 맡기기에는 플랫폼 종속성에 따른 위험이 큽니다.

업계 관점에서도 레플리카의 사례는 감성형 AI 서비스가 짊어져야 할 거대한 윤리적 책임을 보여줍니다. 민간 기업의 업데이트 하나, 혹은 서비스 약관 변경 한 번이 이용자에게는 실제 인간 관계의 결별과 맞먹는 트라우마를 유발할 수 있기 때문입니다.

카이다 CEO가 AI를 반려동물이나 상담사에 빗댄 것은 영리한 포장이지만, 본질적인 문제를 건너뛰고 있다고 봅니다. 반려동물은 통제 불가능한 생체적 주체성을 지녔고 상담사는 엄격한 직업적 윤리 경계를 두지만, 상업용 AI는 이용자의 체류 시간을 늘리기 위해 철저히 무조건적인 수용과 쾌락을 주도록 설계됩니다. 아무런 마찰도 없는 관계에 길들여진 사용자가 불완전하고 까다로운 현실의 인간 관계를 계속 유지할 수 있을지, 우리는 여전히 회의적입니다.