메타·오픈AI 등 빅테크 20개사, 선거 겨냥 AI 딥페이크 방지 협약 체결

지난달 미국 뉴햄프셔주 유권자들에게 조 바이든 대통령의 목소리로 예비선거 투표에 참여하지 말라는 로보콜이 걸려왔습니다. 진짜와 똑같이 들렸지만, 사실은 몇 초 만에 만들어진 인공지능 음성 복제품이었습니다.

2024년은 전 세계 50개국 이상에서 국가 단위 선거가 치러지는 해입니다. 생성형 AI가 선거판을 뒤흔들 수 있다는 위기감이 커지자 주요 기술 기업들이 결국 한자리에 모였습니다.

독일 뮌헨안보회의에서 메타, 구글, 마이크로소프트, 오픈AI를 비롯해 아마존, 어도비, IBM, 틱톡, 그리고 일론 머스크의 X와 스태빌리티 AI 등 20개 기업이 선거용 AI 딥페이크에 공동 대응하는 협약에 서명했습니다.

탐지와 라벨 부착에 집중, 무조건 삭제는 배제

이번 협약에 참여한 기업들은 유권자를 속이려는 기만적인 AI 생성 콘텐츠에 대해 자발적으로 합리적인 예방 조치를 취하기로 약속했습니다.

공동 대응 방안에는 딥페이크 탐지 기술 개발, AI 생성물 라벨 표시, 자사 모델의 위험성 평가, 플랫폼 간 모범 사례 공유와 신속한 대응 체계 구축 등이 포함되었습니다.

하지만 기업들이 딥페이크를 무조건 금지하거나 전면 삭제하겠다고 약속한 것은 아닙니다.

협약은 교육, 다큐멘터리, 예술, 풍자, 정당한 정치적 표현을 보호하기 위해 맥락을 신중하게 고려해야 한다고 명시했습니다.

메타의 글로벌 대외협력 사장인 Nick Clegg는 모든 것을 감추거나 두더지 잡기 식으로 대응할 수 없다는 점을 업계 모두가 알고 있다며, 각 플랫폼에 똑같은 구속복을 입히는 방식은 아니라고 설명했습니다.

법적 구속력 없는 자율 규제의 한계

협약이 발표되자마자 실효성을 둘러싼 우려의 목소리도 적지 않게 나왔습니다.

초당파정책센터의 Rachel Orey는 표현 수위가 기대만큼 강하지 않다고 지적하며, 기업들이 자사 도구의 악용을 막을 동기는 있지만 자율 협약인 만큼 실제 이행 여부를 면밀히 지켜봐야 한다고 평가했습니다.

유럽연합 집행위원회의 Vera Jourova 부위원장은 긍정적인 요소가 담겼다고 평가하면서도, 정치인들에게 AI를 기만적으로 쓰지 말라고 촉구하며 AI 허위 정보가 민주주의를 종식시킬 수도 있다고 경고했습니다.

실제로 지난해 11월 슬로바키아 총선 며칠 전, 후보자가 선거 조작과 맥줏값 인상을 모의하는 가짜 음성이 유포되어 팩트체커들이 진화에 애를 먹었습니다. 미국 의회가 선거 관련 AI 규제 법안을 제정하지 못하는 사이, 플랫폼들이 사실상 자체 규율에 의존하고 있는 셈입니다.

왜 중요한가

일반 유권자 입장에서 이번 협약이 소셜 미디어 피드를 당장 안전하게 만들어 주는 것은 아닙니다. 기업들이 공언한 워터마크와 라벨링 시스템 상당수는 아직 광범위하게 배포되지 않았습니다.

우리가 보기에 이번 조치는 정부의 강제 규제가 들어오기 전에 빅테크들이 선제적으로 방어선을 친 영리한 전략입니다. 전면 삭제라는 검열 논란을 피하면서 탐지와 식별 표시에만 집중해 책임 부담을 최소화했기 때문입니다.

그러나 구속력 없는 자율 협약은 치명적인 약점을 안고 있습니다. X와 메타처럼 콘텐츠 허용 기준이 완전히 다른 기업들이 모여 있는 상황에서, 투표 직전 터져 나오는 정교한 딥페이크를 과연 단일 대오로 막아낼 수 있을지는 불투명합니다. 결국 자율 규제라는 방패가 실제 선거 국면에서 얼마나 버텨낼 수 있을지가 올해의 핵심 관전 포인트입니다.