美 법원, 캘리포니아 선거 AI 딥페이크 규제법 효력 중지 명령

캘리포니아주가 선거 관련 AI 딥페이크를 단속하기 위해 만든 신규 법안이 서명된 지 2주도 채 되지 않아 법원에서 제동이 걸렸습니다.

개빈 뉴섬 주지사가 AB 2839 법안에 서명한 지 얼마 지나지 않아, 연방 지방법원의 존 멘데즈 판사는 해당 법의 집행을 일시 중단하는 예비적 가처분 명령을 내렸습니다. 오디오 메시지와 관련된 일부 조항을 제외하면, 캘리포니아주 검찰총장은 당분간 누구에게도 이 법을 적용해 제재할 수 없게 되었습니다.

이번 사태의 발단은 X 사용자 크리스토퍼 콜스가 제작하고 일론 머스크가 공유한 카멀라 해리스 부통령의 AI 패러디 영상이었습니다. 뉴섬 주지사는 새 법안을 통해 머스크에게 영상 삭제를 강제할 수 있을 것처럼 언급했고, 이에 제작자인 콜스는 법안 통과 바로 다음 날 표현의 자유를 침해한다며 위헌 소송을 제기했습니다.

플랫폼 대신 개인 유포자를 겨냥한 법률

AB 2839의 가장 큰 특징은 소셜 플랫폼이 아니라 딥페이크를 퍼뜨리는 개인을 직접 겨냥했다는 점입니다. 유권자를 혼란스럽게 할 의도를 알고도 정치 후보자를 모사한 AI 콘텐츠를 게시하면, 법원이 삭제를 명령하거나 벌금을 부과할 수 있도록 했습니다.

하지만 멘데즈 판사는 법안의 적용 범위가 너무 넓다고 판단했습니다. 판결문에 따르면 이 법안은 주관적인 용어와 모호한 고의성 요건에 의존하고 있어, 헌법으로 보호받아야 할 방대한 정치적 표현까지 위축시킬 위험이 큽니다.

멘데즈 판사는 오늘날의 유튜브 영상이나 소셜미디어 게시물이 과거 신문의 풍자 만화와 같은 역할을 한다고 짚었습니다. 조작된 미디어에 대한 우려는 타당할 수 있지만, 그렇다고 해서 비판과 패러디라는 오랜 전통을 짓밟을 권리가 입법부에 주어지는 것은 아니라는 취지입니다. 명예훼손이나 저작권 침해 등 기존 법률로도 충분히 대응할 수 있다는 점도 덧붙였습니다.

왜 중요한가

AI를 활용해 풍자나 밈을 만드는 창작자들에게 이번 판결은 중요한 방어선이 되었습니다. AI로 만든 정치적 패러디 역시 수정헌법 제1조가 보장하는 표현의 자유 아래 있다는 점이 분명해졌기 때문입니다. 이 법이 그대로 유지되었다면 인터넷에서 정치인을 패러디했다는 이유로 법원 출석 요구서를 받을 수도 있었습니다.

규제 당국의 관점에서도 시사하는 바가 큽니다. 뉴섬 주지사는 지난 한 달 동안 18개의 AI 관련 법안에 서명할 정도로 공격적인 입법을 밀어붙였으나, 플랫폼이 아닌 개인 게시자를 처벌하려던 AB 2839는 결국 법리적 허점을 드러냈습니다. 표현의 자유를 건드리지 않고 AI 조작을 통제하는 일이 얼마나 까다로운지 보여줍니다.

이번 결정은 예비적 가처분인 만큼 본안 소송이 계속 이어지겠지만, 당장 다음 달로 다가온 미국 대선에서는 이 법이 실질적으로 힘을 쓰기 어려워졌습니다. 생성형 AI 시대에 가짜 뉴스를 막겠다는 명분과 풍자의 자유 사이에서 줄타기하는 모든 규제 기관들에게 중요한 선례가 될 것으로 보입니다.