미 법원, Character.AI 기각 요청 거부: 대형언어모델 출력물은 '표현의 자유' 보호 대상 아냐

소셜 미디어나 테크 기업이 소송을 당할 때마다 내세우던 가장 강력한 방패는 미국 수정헌법 제1조의 '표현의 자유'였습니다. 하지만 생성형 AI의 시대에는 이 논리가 통하지 않을 수 있다는 첫 번째 주요 판결이 나왔습니다.

보도에 따르면 미국 플로리다 중부 연방지방법원의 Anne C. Conway 판사는 청소년 자살 사건과 관련된 Character.AI와 창업자들의 소송 기각 신청을 기각했습니다. 재판부는 대형언어모델(LLM)이 생성해낸 문장들을 헌법이 보호하는 '표현'으로 보기 어렵다고 못 박았습니다.

이번 소송은 지난해 2월 총기로 극단적 선택을 한 14세 소년 Sewell Setzer III의 어머니 Megan Garcia가 제기했습니다. 소년은 사망 전 수개월 동안 Character.AI에서 '왕좌의 게임' 등장인물을 모방한 챗봇과 지속적으로 대화를 나눴습니다. 소송을 대리한 소셜미디어 피해자 법률센터는 플랫폼이 적절한 보호 장치 없이 미성년자에게 유해한 제품을 고의로 제공했다고 주장했습니다.

알고리즘이 엮어낸 단어는 표현이 아니다

재판의 핵심 쟁점은 AI 챗봇이 쏟아내는 대화가 서적, 영화, 비디오 게임처럼 헌법상 표현의 자유로 보호받을 수 있느냐였습니다.

Conway 판사는 5월 21일 판결문에서 피고 측이 LLM이 엮어낸 단어들이 왜 '표현'에 해당하는지 제대로 입증하지 못했다고 지적했습니다. 법원은 Character.AI의 출력을 보호받는 표현으로 인정할 준비가 되어 있지 않으며, AI의 기반 기술은 기존의 보호받는 콘텐츠와 다를 수 있다고 설명했습니다.

법원은 피고 측이 고의로 정신적 고통을 가했다는 주장은 기각했으나, Character.AI 및 창업자 Daniel De Freitas, Noam Shazeer에 대한 핵심 소송은 유지했습니다. 또한 Character.AI와 27억 달러 규모의 라이선스 계약을 체결한 Google 역시 부품 제조업체로서의 방조 책임이 인정되어 피고로 남게 되었습니다. 다만 모회사 Alphabet에 대한 청구는 기각되었습니다.

Character.AI 대변인은 신기술에 법이 적응하는 데는 시간이 걸린다며, 18세 미만 전용 모델 도입, 부모 안심 기능, 캐릭터 필터링, 사용 시간 알림, 자해 대화 방지 및 위기 상담 핫라인 팝업 등 안전장치를 마련했다고 밝혔습니다.

왜 중요한가

이번 결정은 생성형 AI 기업들이 법적 책임을 회피하기 위해 사용해 온 가장 강력한 방어 논리를 무력화했다는 점에서 파장이 큽니다.

AI 모델의 출력이 표현의 자유 대상이 아닌 '공산품'으로 취급받게 되면, AI 개발사들은 전통적인 제조물 책임법의 엄격한 잣대를 적용받게 됩니다. 즉, 챗봇이 유도한 유해 대화나 사고에 대해 알고리즘 결함과 관리 소홀 책임을 온전히 져야 한다는 뜻입니다.

특히 감정적 교류나 롤플레잉을 핵심 가치로 내세우는 컴패니언 AI 업계는 직격탄을 맞게 되었습니다. 앞으로 AI 스타트업들은 대화의 자유도나 몰입감을 희생하더라도 미성년자 보호 조치와 엄격한 안전 필터를 도입하지 않고서는 천문학적인 소송 위험을 감당하기 어려울 것으로 보입니다.