바이든 미 대통령, 국정연설서 'AI 음성 사칭 금지' 공식 촉구

어느 날 전화기 너머로 들려온 지인의 목소리가 사실은 정교하게 만들어진 AI였다면 어떨까요?

이런 불안이 현실로 다가오자 미국 행정부도 본격적인 대응에 나섰습니다. 조 바이든 미국 대통령은 현지시간 목요일 저녁 진행된 국정연설(State of the Union)에서 AI를 이용한 음성 사칭(voice impersonations)을 전면 금지해야 한다고 촉구했습니다.

바이든 대통령은 재선 시 추진할 통합 의제를 나열하면서 이 문제를 언급했습니다. 펜타닐 밀매 처벌 강화, 미성년자 온라인 프라이버시 보호법 통과와 함께 '위험으로부터 우리를 보호하기 위한 AI 음성 사칭 금지'를 핵심 과제로 내세운 것입니다.

선언은 명확했지만, 세부 규정은 빠졌다

바이든 대통령의 발언은 단호했지만, 구체적인 실행 계획까지 제시되지는 않았습니다.

어떤 형태의 안전장치나 처벌 수위를 둘 것인지, 또 이 규제가 엔터테인먼트 산업의 제작 현장까지 포괄하는지에 대해서는 상세한 설명이 없었습니다.

사실 음성 복제 문제는 이미 콘텐츠 산업 전반에서 가장 민감한 뇌관으로 떠오른 상태입니다. 지난해 미국 배우·방송인 노동조합(SAG-AFTRA)이 메이저 제작사들을 상대로 벌인 대규모 파업에서도 AI가 최대 쟁점이었습니다.

파업 끝에 노사는 제작사가 배우의 외모나 음성을 AI로 복제해 활용할 때 반드시 당사자의 동의를 얻고 정당한 대가를 지급해야 한다는 합의안을 도출했습니다. 하지만 이 합의 역시 실제 인물을 모방하지 않는 순수 '가상 합성 연기자'를 제작사가 AI로 만들어내는 것까지는 막지 못했습니다.

한편 이날 국정연설장에서는 공화당 소속 마조리 테일러 그린 하원의원이 'MAGA' 모자를 쓴 채 바이든 대통령의 연설 도중 고성을 지르며 항의하는 소동이 벌어지기도 했습니다.

왜 중요한가

목소리 복제 기술이 대중화되면서 이를 악용한 보이스피싱과 정치 공작의 위험성은 이미 임계점에 달했습니다. 미국 대통령이 가장 권위 있는 연설 자리에서 직접 '음성 사칭 금지'를 못 박았다는 것은, 이 기술이 단순한 기술 트렌드를 넘어 국가 안보와 치안을 위협하는 요소로 격상되었음을 뜻합니다.

일반 시민과 창작자 입장에서는 목소리라는 개인 고유의 자산을 법적으로 보호받을 수 있는 계기가 마련될 수 있습니다. 다만 무작정 '금지'라는 잣대를 들이댈 경우, 더빙이나 창작 콘텐츠 제작에 AI 툴을 활용하려는 정상적인 산업 생태계까지 위축될 위험이 있어 향후 법안의 정교함이 관건입니다.

음성 생성 모델을 개발하는 테크 기업들 역시 앞으로 강력한 규제 압박에 직면할 것으로 보입니다. 서비스 출시 전 본인 인증 절차를 강화하고, 위변조 방지 워터마크 기술을 의무적으로 도입해야 할 가능성이 커졌습니다.

우리는 이번 발표가 당장 시행될 법률이라기보다는 선거를 앞둔 정치적 선언의 성격이 짙다고 봅니다. 악의적인 딥페이크 사기와 풍자, 혹은 합법적인 비즈니스 활용의 경계를 어떻게 나눌 것인지에 대한 구체적 청사진이 나오기 전까지는 정책적 실효성을 신중하게 지켜볼 필요가 있습니다.