OpenAI, ChatGPT 허위 정보로 첫 명예훼손 피소…라디오 진행자 '공금 횡령' 날조

AI의 헛소리는 종종 가벼운 해프닝으로 넘어가곤 하지만, 있지도 않은 수백만 달러 횡령 혐의를 뒤집어씌운다면 이야기가 완전히 달라집니다.

지난 6월 5일, 미국 조지아주의 라디오 방송 진행자인 Mark Walters는 조지아주 귀넷 카운티 상급법원에 OpenAI를 상대로 명예훼손 소송을 제기했습니다. 외신이 6월 7일 보도한 바에 따르면, 이는 ChatGPT가 생성한 허위 정보를 이유로 개발사인 OpenAI에 제기된 사상 첫 명예훼손 소송입니다.

읽지도 못하는 PDF 링크에 '500만 달러 횡령' 날조

사건의 발단은 황당하기 짝이 없습니다. 한 기자가 실제 연방 법원 소송 사건을 취재하던 중, 온라인 PDF 링크를 ChatGPT에 입력하며 사건 요약을 요청했습니다.

당시 별도의 플러그인이 없던 ChatGPT는 외부 링크나 PDF 파일에 직접 접근할 수 없는 상태였습니다. 하지만 시스템은 이를 사용자에게 알리거나 거절하는 대신, 그럴듯한 거짓말을 꾸며냈습니다. 실제 사실과 허위 주장이 뒤섞인 정교한 요약본을 만들어낸 것입니다. 그 요약본에는 Walters가 총기 소유권 옹호 단체인 '수정헌법 제2조 재단'에서 500만 달러가 넘는 자금을 횡령했다는 치명적인 내용이 담겨 있었습니다.

실제로 Walters는 그런 혐의를 받은 적이 전혀 없었습니다. 다행히 해당 기자가 이 내용을 그대로 보도하지 않고 다른 경로를 통해 사실관계를 재확인하면서 오보로 이어지지는 않았습니다. 소장에 Walters가 이 거짓 요약본의 존재를 어떻게 알게 되었는지는 명시되지 않았지만, 그는 명예가 훼손되었다며 OpenAI를 상대로 손해배상을 청구했습니다.

통신품위법 230조, 생성 AI 앞에서도 유효할까

ChatGPT의 할루시네이션(환각) 문제는 이미 도를 넘고 있었습니다. 앞서 한 대학교수가 ChatGPT의 잘못된 답변만 믿고 학생 전원을 낙제시키려 들거나, 변호사가 ChatGPT가 지어낸 가짜 판례를 법정에 제출했다가 징계 위기에 몰리는 등 현실 피해가 잇따랐습니다. 그러나 이번 소송은 기술적 문제를 넘어 법적 책임의 근본을 찌르고 있습니다.

미국 인터넷 업계는 오랫동안 '통신품위법 제230조'의 보호를 받아왔습니다. 사용자가 올린 게시물에 대해 플랫폼 기업은 법적 책임을 지지 않는다는 원칙입니다. 하지만 대형 언어 모델은 남이 쓴 글을 단순히 보여주는 것이 아니라, 텍스트를 스스로 처음부터 만들어냅니다. 이렇게 무에서 유를 창조한 거짓 정보에 대해서도 플랫폼 면책 규정이 그대로 적용될 수 있는지는 법적으로 시험대에 오른 적이 없습니다.

다만 이번 소송에서 원고가 승소하기는 쉽지 않을 것이라는 분석도 나옵니다. 법학자 Eugene Volokh 교수는 AI 기업을 상대로 한 명예훼손 소송이 법리적으로 성립할 수는 있지만, 이번 사건은 유지되기 어려울 수 있다고 짚었습니다. Walters가 제소 전 OpenAI에 삭제 요청을 보낸 적이 없고, 기자가 해당 허위 사실을 외부에 공표하지 않아 실질적인 피해를 입증하기 까다롭기 때문입니다.

왜 중요한가

우리는 이번 소송의 진짜 가치가 배상금 수령 여부보다, OpenAI의 모순된 마케팅 전략에 경종을 울렸다는 점에 있다고 봅니다.

OpenAI는 서비스 하단에 '부정확한 정보를 생성할 수 있다'는 작은 면책 문구를 넣어두었습니다. 하지만 다른 한편으로는 광고를 통해 ChatGPT를 '답을 찾고 새로운 지식을 배우는 도구'로 적극 홍보해 왔습니다. 샘 올트먼 CEO 역시 책을 읽는 것보다 ChatGPT를 통해 새로운 정보를 배우는 것을 선호한다고 수차례 말해왔습니다. 똑똑하고 정확한 지식 전달자로 포장하면서, 정작 거짓말이 드러났을 때만 작은 면책 조항 뒤로 숨는 것은 앞뒤가 맞지 않습니다.

일반 사용자에게 주는 경고도 명확합니다. 검색 기능이나 플러그인이 붙더라도 대형 언어 모델 자체가 참과 거짓을 완벽히 분별하지 못한다는 사실은 변하지 않습니다. 인물 뒷조사나 법률 검토처럼 명예와 책임이 걸린 작업을 AI의 말만 믿고 진행하는 것은 매우 위험한 일입니다.

AI 산업 전체로도 중대한 분기점입니다. 법원이 AI의 날조된 출력물에 전통적인 플랫폼 면책 특권을 인정하지 않는다면, 빅테크 기업들은 모델이 뱉어내는 거짓말에 대해 막대한 법적 책임을 직접 져야 합니다. 면책 안내문 한 줄로 모든 책임을 털어내던 시대가 저물고 있습니다.