챗GPT 비공개 대화, 구글 검색 콘솔로 유출…오픈AI "오류 수정 완료"

ChatGPT에 털어놓은 지극히 민감하고 사적인 대화 내용이 엉뚱하게도 구글의 웹로그 분석 도구인 '구글 서치 콘솔(GSC)'로 유출되는 일이 벌어졌습니다.

구글 서치 콘솔은 일반적으로 웹사이트 운영자가 검색 트래픽을 모니터링할 때 사용하는 도구입니다. 정상적인 상황이라면 이용자들이 입력한 짧은 검색 키워드만 보여야 하지만, 지난 9월부터 300자가 넘는 기이한 형태의 쿼리가 잡히기 시작했습니다.

웹사이트 관리자 화면에 뜬 남의 비밀 프롬프트

유출된 쿼리들은 이용자가 챗봇에 입력한 원본 프롬프트였습니다. 연인 관계의 갈등이나 민감한 비즈니스 문제 해결을 챗봇에 요청하는 내용으로, 작성자들은 이 대화가 당연히 비공개로 유지될 것이라 믿었을 글들입니다.

이 문제를 지난달 자신의 블로그를 통해 처음 공개한 인물은 분석 컨설팅 업체 퀀터블(Quantable)의 창업자 제이슨 패커(Jason Packer)입니다. 그는 웹 최적화 전문가인 슬로보단 마니치(Slobodan Manić)와 함께 원인을 추적하는 테스트를 진행했습니다.

두 사람은 이번 사건이 "OpenAI가 실제 이용자의 프롬프트를 사용해 구글 검색을 직접 스크래핑하고 있다는 최초의 결정적 증거"라고 주장했습니다. 구글이 기본적으로 제공하지 않는 검색 데이터를 확보해 챗봇 반응을 유지하려는 과정에서 이용자의 프라이버시가 침해됐다는 설명입니다.

OpenAI는 이들의 기술적 분석 내용이 맞는지, 피해 범위가 어느 정도인지 묻는 질문에는 답변을 거부했습니다.

다만 대변인을 통해 해당 문제를 인지하고 있었으며, 소수의 검색 쿼리 라우팅에 일시적으로 영향을 미친 결함을 이미 해결했다고 밝혔습니다.

패커는 신속한 조치는 반기면서도, OpenAI가 구글을 무단 스크래핑했는지 여부를 전혀 확인해주지 않았다며 문제가 완벽히 해소되었는지에 대해서는 의구심을 표했습니다.

왜 중요한가

우리는 이번 사례가 챗봇을 비밀 상담사나 업무 비서로 신뢰해 온 이용자들에게 심각한 경고를 던졌다고 봅니다.

화면 속 AI와 둘만 나누는 비밀이라고 생각했던 긴 대화문이, 웹 검색 기능이 작동하는 순간 가공되지 않은 상태로 인터넷 세상에 흩뿌려져 낯선 웹마스터의 관리 화면에 기록될 수 있다는 사실이 드러났기 때문입니다.

당장 민감한 개인사나 기업 내부 정보로 AI 검색 기능을 활용하는 이용자라면, 프롬프트에서 고유명사를 지우거나 개인정보를 철저히 가리는 주의가 필요합니다.

업계 차원에서도 이번 일은 AI 검색 경쟁의 부끄러운 이면을 보여줍니다. 실시간 정보를 끌어오기 위해 이용자의 날것 그대로인 프롬프트를 외부 검색 요청으로 바로 쏴버리는 방식은 기술적으로 매우 안이하고 위험한 설계입니다. OpenAI가 라우팅 오류라는 핑계 뒤에 숨어 데이터 흐름을 투명하게 공개하지 않는다면 플랫폼에 대한 신뢰는 계속 흔들릴 수밖에 없습니다.