NYT의 2000만 건 대화 요구 거부한 OpenAI, 클라이언트 암호화 예고

당신이 ChatGPT에 털어놓은 지극히 개인적인 고민이나 민감한 질문들이 신문사 변호사들의 검토 자료로 넘어갈 위기에 놓였습니다.

단순한 가정이 아니라, 현재 미국 법정에서 실제로 벌어지고 있는 일입니다.

OpenAI의 최고정보보호책임자인 데인 스터키는 뉴욕타임스의 사용자 프라이버시 침해에 맞서겠다는 공식 입장을 발표했습니다. 뉴욕타임스가 저작권 침해 소송 과정에서 법원을 통해 일반 사용자들의 ChatGPT 비공개 대화 2,000만 건을 넘겨받겠다고 요구했기 때문입니다. 사용자들이 유료 구독 장벽을 우회하는 데 ChatGPT를 악용했는지 확인하겠다는 것이 신문사 측의 명분입니다.

14억 건에서 2,000만 건으로, 끈질긴 데이터 요구

뉴욕타임스가 사용자의 대화 기록을 요구한 것은 이번이 처음이 아닙니다.

OpenAI에 따르면 신문사는 과거 사용자의 대화 삭제 기능을 중단시키려 시도했고, 한때는 무려 14억 건에 달하는 대화 데이터를 요구하기도 했습니다. 이번에 요구한 2,000만 건은 2022년 12월부터 2024년 11월 사이에 무작위로 추출된 일반 소비자 대화입니다.

뉴욕타임스 측 변호인단은 다른 AI 기업이 관련 없는 소송에서 사용자 대화 500만 건을 제출한 사례가 있으므로 이번 요구도 정당하다고 주장하고 있습니다.

OpenAI는 뉴욕타임스 기사 텍스트가 포함된 대화만 추려내는 표적 검색이나 대화 유형 분류 통계 데이터만 제공하는 절충안을 제시했으나, 신문사는 이를 모두 거부했습니다.

다만 기업 고객은 이번 사안과 무관합니다. ChatGPT Enterprise, Edu, Business 및 API 고객의 데이터는 요구 대상에서 완전히 제외되었습니다.

클라이언트 암호화 카드를 꺼낸 OpenAI

OpenAI는 법원에 이번 요구를 기각해 줄 것을 요청하며 맞서고 있습니다. 만약 법원 명령으로 데이터를 넘겨야 하는 상황이 오더라도, 이름과 비밀번호 등 개인 식별 정보를 사전에 모두 제거하는 비식별화 처리를 거칠 방침입니다.

열람 권한 역시 소송 대리인과 기술 컨설턴트로 엄격히 제한하고, 외부 유출이 불가능한 보안 환경에서만 확인하도록 하겠다고 밝혔습니다.

아울러 OpenAI는 보안 로드맵을 앞당겨 ChatGPT에 메시지 종단간 보호를 위한 클라이언트 측 암호화를 도입하겠다고 발표했습니다. 이 기능이 적용되면 OpenAI조차 사용자의 대화 내용을 들여다볼 수 없게 됩니다.

왜 중요한가

우리는 이번 사태가 AI 업계의 저작권 공방이 일반 대중의 일상적 프라이버시 침해로 번지는 위험한 분기점이라고 봅니다.

일반 사용자 입장에서 이번 사건은 강력한 경고입니다. 기업용 엔터프라이즈 계약을 맺지 않은 개인 계정의 대화 기록은 법적 증거 개시 절차에서 얼마든지 강제 제출 대상이 될 수 있습니다. 클라이언트 측 암호화가 완전히 도입되기 전까지는 지극히 사적인 비밀이나 금융 정보 등을 프롬프트에 직접 입력하는 행위를 자제하는 것이 안전합니다.

AI 산업 전체로 보면, 저작권 소송을 빌미로 무관한 제3자의 대화 수천만 건을 무작위로 털어보는 나쁜 선례가 만들어질 수 있습니다. 이것이 용인된다면 향후 모든 생성형 AI 서비스는 저작권 소송에 걸릴 때마다 대규모 이용자 감시 위협에 직면하게 됩니다.

전략 측면에서 OpenAI의 여론전은 매우 영리해 보입니다. 저작권 무단 학습이라는 자신들의 원죄 국면에서 벗어나, 8억 명에 달하는 주간 이용자의 사생활을 거대 언론 권력으로부터 지켜내는 수호자 프레임을 선점했기 때문입니다.