파키스탄 전 총리 임란 칸, 옥중에서 AI 음성 복제로 선거 운동

수감된 정치인의 입을 막는 것이 이제 기술적으로 불가능해졌습니다.

국가 선물을 불법 판매한 혐의로 지난 8월부터 수감 중인 임란 칸 전 파키스탄 총리가 교도소 담장을 넘어 유세를 펼쳤습니다. 그가 이끄는 정당이 AI 음성 복제 기술을 활용해 그의 목소리로 연설을 내보낸 것입니다.

감옥에서 건넨 메모, ElevenLabs로 복원된 목소리

칸 전 총리가 소속된 파키스탄정의운동(PTI)은 일요일 저녁 가상 집회를 열고 4분 분량의 연설 영상을 공개했습니다.

제작 방식은 치밀했습니다. 가디언 보도에 따르면 칸 전 총리는 감옥에서 속기 형태의 초안을 작성해 당에 전달했고, 법률팀이 칸 특유의 화법과 수사법에 맞춰 문장을 다듬었습니다.

이 원고를 음성으로 바꾼 것은 음성 합성 스타트업 ElevenLabs의 도구였습니다. 제작진은 과거 유세 영상에서 추출한 음성 데이터를 기반으로 목소리를 복제했고, 과거 집회 영상과 스톡 이미지를 편집해 영상을 완성했습니다.

영상에는 '임란 칸의 메모를 기반으로 한 AI 음성'이라는 자막이 명시되었습니다. PTI의 소셜미디어 책임자 지브란 일리야스는 칸 전 총리가 직접 대중을 만날 수 없는 상황에서 탄압을 극복하기 위한 당연한 선택이었다고 밝혔습니다.

5시간 가상 집회와 전국적인 인터넷 차단

5시간 동안 진행된 가상 집회는 폭발적인 반응을 얻었습니다. 유튜브에서만 50만 회 이상의 조회수를 기록했고 다른 플랫폼에서도 수천 명이 동시 시청했습니다.

파키스탄 당국의 대응은 즉각적이었습니다. 당국은 집회 영상 확산을 막기 위해 일요일 저녁 페이스북, 인스타그램, X, 유튜브 접속을 차단했습니다.

인터넷 감시 단체 넷블록스(NetBlocks) 역시 X를 통해 일요일 저녁 파키스탄 전역에서 주요 소셜 미디어 플랫폼 서비스가 대규모로 중단되었다고 확인했습니다.

왜 중요한가

우리는 이번 사례가 상용 생성형 AI가 현실 정치와 국가 검열을 무력화하는 방식을 보여준 상징적인 사건이라고 봅니다.

접근성 측면에서 PTI의 방식은 영리했습니다. 막대한 자금을 들여 독자 기술을 개발할 필요 없이, 시중에 공개된 ElevenLabs 도구와 과거 오디오 클립만으로 물리적으로 격리된 후보의 존재감을 대중 앞에 다시 세웠습니다. 정치적 제약이나 이동의 자유를 제한받는 정치 세력에게 저비용으로 여론전을 이어갈 수 있는 강력한 템플릿을 제공한 셈입니다.

영상에 AI 음성임을 솔직하게 밝힌 점도 전략적이었습니다. 가짜 뉴스나 기만 논란을 사전에 차단하면서, 탄압에 맞서는 혁신적인 이미지까지 챙겼습니다.

그러나 그림자도 짙습니다. 이번에는 본인의 메모를 바탕으로 정당이 제작했다고 하지만, 외부와 차단된 인물의 메시지가 과연 실제 본인의 의사인지 검증할 방법이 마땅치 않습니다. 앞으로 투옥되거나 실종된 인물의 목소리를 악의적으로 조작해 가짜 성명을 발표하더라도 대중이 이를 가려내기는 불가능에 가깝습니다. AI 음성 복제가 단순한 기술 시연을 넘어 실제 선거 판도를 뒤흔드는 변수로 자리 잡았습니다.