아들 목소리 AI로 복제해 보이스피싱… 美 부부 5천 달러 피해

집 전화를 받았는데 아들이 울먹이며 심각한 교통사고를 내 유치장에 갇혔다고 호소한다면, 의심부터 할 부모는 많지 않을 것입니다.

미국 텍사스주 휴스턴에서 인공지능으로 아들의 음성을 복제한 사기범들에게 속아 5천 달러를 갈취당한 부부의 사연이 전해졌습니다.

임산부 친 사고로 위장한 정교한 각본

지난주 수요일, 휴스턴에 거주하는 프레드와 캐시 부부의 집 전화벨이 울렸습니다. 수화기를 들자마자 들려온 것은 겁에 질린 아들의 목소리였습니다.

전화기 속 인물은 자신이 끔찍한 교통사고를 냈으며, 임신 6개월 차 여성을 쳐서 태아가 사망했다고 울먹였습니다. 자신의 코뼈도 부러졌고 음주운전 혐의로 카운티 교도소에 수감될 위기라고 말했습니다.

어머니 캐시는 지역 방송 KHOU와의 인터뷰에서 진짜 아들과 직접 대화를 나누고 있다고 확신할 수밖에 없었다고 털어놓았습니다.

사기범들은 아들을 보석으로 빼내려면 1만 5천 달러가 필요하다고 요구했고, 결국 금액은 5천 달러로 낮아졌습니다. 심지어 신속한 석방을 돕겠다며 직접 집 앞까지 찾아와 현금을 가로채 갔습니다.

암 투병 중이던 캐시는 급전을 마련하느라 예정되어 있던 항암 치료까지 미뤄야 했습니다. 하지만 돈을 넘겨주고 난 뒤에야 진짜 아들은 직장에서 멀쩡히 일하고 있었다는 사실을 알게 되었습니다.

SNS 영상 몇 초면 목소리 복제 가능

과거에는 목소리를 흉내 내려면 많은 음성 데이터가 필요했지만, 지금은 기술 장벽이 극도로 낮아졌습니다.

디지털 포렌식 업체 론스타 포렌식스의 에릭 데블린은 범인들이 생각만큼 많은 오디오를 필요로 하지 않는다고 설명했습니다. 페이스북이나 인스타그램에 전체 공개로 올린 짧은 동영상 몇 개만으로도 충분히 음성 모델을 학습시킬 수 있다는 것입니다.

최근 온라인에서는 정교한 AI 생성물이 잇따라 물의를 빚고 있습니다. 지난 2월에는 유명 방송인 조 로건이 아마존의 남성 건강보조제를 홍보하는 딥페이크 영상이 틱톡에서 퍼지며 논란이 되기도 했습니다.

하지만 가짜 상업 광고보다 훨씬 위험한 것은 가족의 위기를 조작한 표적형 사기입니다. 완벽하게 복제된 혈육의 음성과 극한의 공포가 결합하면 이성적인 판단은 순식간에 마비됩니다.

왜 중요한가

우리는 친숙한 목소리에 의존하던 전통적인 신뢰 체계가 완전히 붕괴했다고 봅니다. 지금까지 목소리는 가장 확실한 생체 인증 수단으로 통했지만, 생성형 AI의 등장으로 누구나 손쉽게 위조할 수 있는 데이터가 되었습니다.

일반 가정에서는 아날로그 방식의 방어책을 서둘러 마련해야 합니다. 위급 상황에 대비해 가족끼리만 공유하는 암호를 정해두거나, 금전을 요구하는 전화가 오면 무조건 끊고 저장된 번호로 직접 다시 거는 원칙을 세워야 합니다. 가족의 음성이 담긴 소셜 미디어 게시물의 공개 범위를 좁히는 것도 필수적입니다.

산업 관점에서는 음성 합성 기술의 안전장치 부재가 적나라하게 드러났습니다. 워터마크나 음성 주인의 동의 확인 절차 없이 상용화된 음성 복제 도구들이 범죄 집단에 무차별적으로 악용되고 있습니다.

통신사와 보안 업계가 통화망 차원에서 실시간 딥페이크 음성을 탐지하는 기술을 서둘러 상용화하지 않는다면, 이 같은 비극적인 피해는 더욱 광범위하게 확산할 것으로 보입니다.