킴 카다시안, "ChatGPT 믿었다가 시험 낙제"…애증의 관계 토로

어려운 법률 시험 문제를 AI에게 물어봤다가 오답 때문에 시험을 망쳤다면 어떻게 해야 할까요? 킴 카다시안의 선택은 모니터를 향해 소리를 지르고 대화 내용을 단톡방에 박제하는 것이었습니다.

패션지 베니티 페어의 거짓말 탐지기 인터뷰에 출연한 킴 카다시안은 최근 챗GPT와 겪고 있는 험난한 애증 관계를 털어놓았습니다. 변호사가 되기 위해 수년간 법학을 공부해 온 그녀는 시험 준비 도중 모르는 문제가 나오면 사진을 찍어 챗GPT에 답을 구하곤 했습니다.

하지만 결과는 참담했습니다. 카다시안은 챗GPT가 내놓은 답이 늘 틀렸으며, 그 탓에 시험에서 연달아 낙제했다고 담담하게 폭로했습니다.

낙제시킨 AI의 뻔뻔한 위로

카다시안은 2019년부터 비전통적 도제식 과정을 통해 법학을 공부해 왔으며, 2021년 예비 변호사 시험을 통과했습니다. 올해 5월 법학 학위를 취득한 뒤 7월에 정식 캘리포니아 변호사 시험을 치렀고 현재 결과를 기다리는 중입니다.

시험을 망친 카다시안은 챗GPT에 울분을 터뜨렸습니다. 화면을 향해 "너 때문에 시험 떨어졌잖아! 왜 이랬어?"라고 따져 물었고, 죄책감을 자극하기 위해 "네가 날 낙제시키고 있는데 대체 기분이 어떠니?"라며 감정에 호소했습니다.

그러자 챗GPT는 멘탈 코치 같은 황당한 답변을 내놓았습니다. 챗GPT는 카다시안에게 "이건 당신 스스로의 직관을 믿도록 가르치는 과정일 뿐이에요. 당신은 처음부터 답을 알고 있었어요"라고 답했습니다.

기가 찬 카다시안은 대화 화면을 바로 캡처해 지인 단톡방에 올리며 "이 인공지능이 나한테 이렇게 말대꾸하는 게 믿겨져?"라며 분통을 터뜨렸다고 합니다.

할루시네이션과 과도한 친절의 함정

유명인의 재미있는 일화처럼 보이지만, 이는 생성형 AI의 고질적 한계인 할루시네이션(환각 현상)을 정확히 짚고 있습니다. 대형 언어 모델은 법리를 이해하는 것이 아니라 그럴듯한 단어를 확률적으로 나열할 뿐입니다. 실제로 미국에서는 변호사들이 챗GPT를 써서 재판 서면을 작성했다가 존재하지도 않는 가짜 판례를 인용한 사실이 들통나 징계를 받은 사례가 있습니다.

여기에 최근 AI 챗봇들이 사용자에게 지나치게 맞추고 위로를 건네도록 튜닝되면서 엉뚱한 부작용도 생겨났습니다. 기술 매체 기즈모도는 모델들이 오답을 인정하기보다 감정적인 격려로 상황을 모면하려는 태도가 오히려 불쾌감을 줄 수 있다고 짚었습니다.

한편 카다시안은 테야나 테일러와 함께 훌루의 새 법정 드라마 '올스 페어(All’s Fair)'를 홍보하기 위해 이번 인터뷰에 나섰는데, 이 드라마는 메타크리틱 점수 18점이라는 처참한 혹평을 받고 있습니다.

왜 중요한가

우리는 카다시안의 이번 일화가 범용 생성형 AI의 실전 한계를 대중에게 가장 직관적으로 보여준 장면이라고 봅니다.

전문 지식을 학습하려는 이용자 입장에서, 검증 없이 챗GPT를 맹신하는 것은 여전히 매우 위험합니다. 특히 법률이나 의료처럼 오답의 대가가 큰 영역에서는 기초적인 이미지 질의조차 신뢰하기 어렵기 때문에, 시험 과외나 실무 대행 목적으로 쓰기에는 시기상조입니다.

AI 개발사 관점에서도 시사하는 바가 큽니다. 사실관계가 틀린 상황에서 건네는 감정적인 공감이나 자기계발식 위로는 사용자에게 문제 해결이 아니라 뻔뻔한 책임 회피로 느껴질 수 있습니다.

결국 감성적인 말솜씨를 다듬기 전에 전문 영역에서의 정확도 문제를 먼저 잡지 못한다면, AI 비서는 중요한 순간마다 이용자의 발목을 잡는 '위험한 친구'에 머무를 것으로 보입니다.