에릭 아دام스 뉴욕시장, AI로 구사 못하는 외국어 복제 음성 전화 돌려 논란

자신이 구사하지 못하는 외국어로 AI 음성을 복제해 시민들에게 자동 안내 전화(로보콜)를 돌린 미국 뉴욕시 에릭 아담스 시장이 윤리적 논란에 휩싸였습니다.

아담스 시장은 스페인어, 이디시어, 만다린, 광둥어, 아이티 크리올어 등으로 녹음된 로보콜을 시민들에게 발송했습니다. 문제는 시장이 이들 언어를 전혀 하지 못할뿐더러, 해당 전화 어디에도 AI로 합성된 목소리라는 안내가 없었다는 점입니다.

다국어 구사하는 'AI 시장'의 등장

이번 사실은 뉴욕시의 새로운 '인공지능 행동 계획'을 발표하는 기자회견 자리에서 공개됐습니다. 뉴욕시는 이날 마이크로소프트 애저 AI 기반으로 소상공인 창업을 돕는 '마이시티 챗봇'을 함께 선보였습니다. 매트 프레이저 최고기술책임자(CTO)는 궁극적으로 모든 시정 서비스를 봇을 통해 제공할 것이라는 포부를 밝혔습니다.

자신을 기술 애호가이자 전직 프로그래머라고 소개한 아담스 시장은 자신의 음성 복제 기술 활용을 자랑스럽게 소개했습니다. 대화형 AI 스크립트만 넣으면 자신의 목소리로 어떤 언어든 만들어낼 수 있다는 설명입니다.

시장실 대변인에 따르면 이 로보콜은 400만 명 이상의 뉴욕 시민에게 도달했습니다. 채용 박람회와 '라이즈 업 NYC' 콘서트 홍보에 주로 쓰였으며, 수천 건의 스페인어와 250건 이상의 이디시어, 160건 이상의 만다린, 89건의 광둥어, 23건의 아이티 크리올어 통화가 발송됐습니다.

아담스 시장은 길거리에서 시민들이 언제 중국어를 배웠냐고 묻기도 한다며 뿌듯해했습니다. 유권자를 오도하는 것 아니냐는 기자들의 질문에는 시민들이 이해하는 언어로 다가가야 행정을 할 수 있다며, 웃으면서 "니하오"라는 말로 회견을 마쳤습니다.

행정 편의인가, 세금 낭비형 딥페이크인가

하지만 프라이버시 전문가와 학계의 시선은 싸늘합니다.

감시기술감독프로젝트(STOP)의 앨버트 폭스 칸 대표는 성명을 통해 세금을 들여 구사하지도 못하는 언어를 하는 척 시민을 속이는 행위는 극히 비윤리적이며 오웰적이라고 맹비난했습니다. 다국어 안내 자체는 필요하지만, 시장 본인의 딥페이크를 만드는 것은 섬뜩한 허영심에 불과하다는 지적입니다.

포덤 대학교 정치학과의 아니카 말렌 힌체 부교수 역시 다국어 서비스를 제공하는 것은 좋으나, 시장이 직접 해당 언어를 구사하는 것처럼 속이거나 암시하는 것은 심각한 윤리적 결함이라고 짚었습니다.

뉴욕시 법률은 주요 10개 언어 번역과 약 100개 언어의 전화 통역 제공을 의무화하고 있습니다. 과거 마이클 블룸버그나 빌 더블라지오 전 시장도 서툰 스페인어로 놀림감이 되곤 했지만, 최소한 자신이 직접 말하는 수준에 머물렀습니다.

왜 중요한가

우리는 아담스 시장의 이번 시도가 행정 AI 도입에서 가장 핵심적인 원칙인 투명성과 고지 의무를 정면으로 위반한 사례라고 봅니다.

다양한 이민자 출신 시민에게 모국어로 시정 소식을 전달하는 것 자체는 행정적으로 가치 있는 일입니다. 하지만 AI로 합성한 목소리라는 사실을 밝히지 않는다면, 공공 서비스가 정치인의 개인 이미지 메이킹을 위한 딥페이크 수단으로 변질될 수밖에 없습니다. 시민과 시정부 사이의 가장 기본적인 신뢰를 갉아먹는 방식입니다.

산업과 거버넌스 측면에서도 위험한 선례입니다. 생성형 음성 복제 기술의 진입 장벽이 낮아진 상황에서, 공공기관이 앞장서 출처 표기 없는 인공 음성을 사용한다면 향후 선거나 민간 영역에서 쏟아질 딥페이크와 허위 조작 정보를 무슨 명분으로 규제하겠습니까.

해결책은 간단했습니다. 표준 안내용 가상 음성을 쓰거나 통화 첫머리에 'AI로 생성된 시장의 음성'이라는 짧은 고지만 넣었어도 충분했습니다. 이 최소한의 투명성을 건너뛴 탓에, 유용한 기술 실험이 단숨에 무책임한 정치적 쇼로 전락하고 말았습니다.