ChatGPT와의 대화는 비밀이 아니다: 美 법정서 유죄 증거로 채택 잇따라

많은 사용자가 한밤중에 아무에게도 털어놓지 못할 고민을 ChatGPT에 쏟아내며, 화면 너머의 인공지능을 완벽한 비밀 금고로 여깁니다.

하지만 이 환상은 실제 법정에서 빠르게 깨지고 있습니다.

워싱턴포스트의 조사에 따르면, 지난 2년 동안 최소 12건의 공개 형사 및 민사 재판에서 AI 챗봇 대화 기록이 핵심 증거로 제출된 것으로 나타났습니다. 감정적인 고백부터 범죄 직후의 은폐 시도까지, 사용자가 입력창에 적은 문장들이 법정에서 낭독되고 있습니다.

경찰과 상대측 변호사는 어떻게 AI 기록을 확보하는가

가장 근본적인 문제는 챗봇과의 대화에 아무런 법적 비밀보호 특권이 없다는 점입니다. 변호사, 의사, 심리상담사와의 상담은 법적으로 비밀이 보장되지만, AI는 자격증을 가진 전문가가 아닙니다.

수사기관이 대화 기록을 손에 넣는 방식은 생각보다 간단합니다. OpenAI 본사에 압수수색 영장을 보내지 않고도, 현장에서 용의자의 스마트폰을 확인하는 것만으로 충분한 경우가 많습니다.

미국 전국형사변호사협회의 마이클 프라이스 변호사는 법적으로 영장 없는 휴대전화 수색을 거부할 권리가 있음에도 대다수 시민이 경찰의 요구에 무심코 동의해 버린다고 지적합니다.

미주리 주립대의 라이언 셰이퍼는 교내 주차장에서 차량 17대를 파손한 혐의를 받자 경찰의 스마트폰 수색에 응했습니다. 수사관들은 그가 범행 직후 ChatGPT에 보낸 "형, 나 얼마나 ㅈ된 거야? 차를 박살 냈으면 나인 걸 알아챌 방법이 있어?"라는 대화를 발견했고, 그는 결국 중범죄 혐의를 인정하고 7월에 징역 대신 보호관찰 5년을 선고받았습니다.

민사 소송의 증거개시 절차에서도 마찬가지입니다. 미시간주의 한 고용 분쟁에서는 이직한 영업사원이 "삭제된 야후 이메일을 법원 소환장으로 복구할 수 있느냐"고 ChatGPT에 질문한 사실이 드러나, 증거 인멸 시도로 인정되어 변호사 비용을 물어내야 했습니다.

심지어 AI 기업이 먼저 수사기관을 부르는 사례도 있습니다. 플로리다주에서는 대런 저우라는 사용자가 전 여자친구를 해치겠다는 계획을 ChatGPT에 반복 입력하자, OpenAI의 감지 시스템과 직원이 이를 실제적 위협으로 판단해 FBI에 통보했습니다. 저우는 이번 달 유죄를 인정하고 보호관찰 8년형을 받았습니다.

OpenAI의 투명성 보고서에 따르면 2025년 하반기에만 사법기관의 요청으로 공개된 계정 정보가 80건을 넘었으며, 이는 전년 동기 대비 4배 이상 급증한 수치입니다.

판사가 "클로드는 변호사가 아니다"라고 선을 그은 이유

AI와의 대화에 비밀유지 특권을 주장하려던 시도 역시 법원에서 철저히 기각되었습니다.

금융권 임원인 브래들리 헵너는 앤트로픽의 클로드와 사기 혐의 방어 논리를 상의한 대화를 검찰이 보지 못하게 해달라고 요청했습니다. 그러나 뉴욕 연방법원 판사는 클로드가 변호사가 아니며 실제 변호사의 지시로 AI를 사용한 것도 아니라며 이를 일축했고, 헵너는 지난 5월 사기 혐의 등으로 유죄 판결을 받았습니다.

왜 중요한가

일반 사용자에게 주는 경고는 명확합니다. 직장 내 갈등, 이혼 소송, 계약 분쟁 등 법적으로 민감한 사안이 있다면 클라우드 기반 챗봇을 절대 상담 창구로 쓰지 말아야 합니다. OpenAI나 샘 올트먼이 AI 대화에 대한 프라이버시 보호 강화를 주장하더라도, 현행 법률 체계에서 클라우드 챗봇에 보낸 텍스트는 언제든 법정 증거로 채택될 수 있는 공적 기록에 불과합니다.

우리는 AI 기업들이 마케팅과 법적 현실 사이에서 큰 모순에 빠져 있다고 봅니다. 플랫폼들은 AI가 사용자의 일상과 내면을 공유하는 전천후 비서가 되기를 바라지만, 동시에 유해 콘텐츠 감시와 사법기관 협조라는 법적 의무를 피할 수 없습니다. 위험 인물을 경찰에 신고하는 것은 사회 안전 측면에서 옳지만, 이는 동시에 챗봇이 사적인 안식처가 아니라는 사실을 명백히 보여줍니다.

조지워싱턴대 앤드루 퍼거슨 교수의 말처럼, AI가 일상 깊숙이 들어올수록 개인의 은밀한 사고 과정 전체가 공권력에 고스란히 노출될 위험이 커집니다. 진정한 온디바이스 AI와 종단간 암호화가 보편화되기 전까지는, 법정에서 판사 앞에서 큰 소리로 읽혀도 떳떳하지 않은 말은 챗봇 입력창에도 절대 적지 않는 것이 안전합니다.