미 FTC, '가짜 AI 변호사·리뷰' 과대광고 업체 무더기 제재

AI 기술의 후광을 등에 업는다고 해서 사기가 정당화될 수는 없습니다.

미국 연방거래위원회(FTC)는 9월 25일, 인공지능을 내세워 소비자를 기만하거나 사기 행각을 벌인 기업들을 전면 단속하는 ‘오퍼레이션 AI 컴플라이(Operation AI Comply)’ 조치를 발표했습니다. 리나 칸 FTC 위원장은 현행법에 AI를 위한 예외 조항은 없다고 못 박았습니다.

로봇 변호사의 허상과 전자상거래 사기

이번 조치에서 가장 큰 주목을 받은 곳은 스스로를 ‘세계 최초의 로봇 변호사’라 홍보했던 두낫페이(DoNotPay)입니다. 이들은 변호사 없이도 소송을 제기할 수 있고 2000억 달러 규모의 법률 시장을 AI로 대체하겠다고 공언해 왔습니다.

하지만 FTC 조사 결과, 두낫페이는 자사 챗봇이 실제 변호사 수준에 부합하는지 제대로 된 검증 테스트조차 거치지 않았으며 사내에 변호사를 고용하지도 않은 것으로 드러났습니다. 결국 두낫페이는 19만 3000달러의 합의금을 내고, 2021년부터 2023년까지 가입한 고객들에게 서비스 한계를 알리는 공지를 발송하기로 합의했습니다.

이와 함께 AI 자동화로 아마존이나 틱톡 쇼핑몰에서 수천만 원의 부수입을 보장한다고 속여 2500만 달러 이상을 편취한 어센드 이커머스 등 허위 쇼핑몰 솔루션 업체들도 연방법원에 의해 자산이 동결되었습니다. AI 글쓰기 도구인 라이터(Rytr) 역시 사용자가 허위 후기를 대량 생성하도록 돕는 기능을 제공했다는 이유로 시정 명령 대상에 올랐습니다.

왜 중요한가

지난 2년간 생성형 AI 열풍이 불면서, 과거의 고전적인 부업 사기나 허위 리뷰 생성 조직들이 ‘최첨단 AI’라는 포장지를 두르고 활개를 쳐 왔습니다.

우리는 FTC의 이번 단속이 화려한 기술적 수사 뒤에 숨은 실질적 기만행위를 정조준했다는 점에서 매우 시의적절하다고 봅니다. 법률이나 의료 등 고도의 전문 영역을 AI로 대체하겠다고 주장하려면, 객관적이고 검증 가능한 실증 데이터가 반드시 뒷받침되어야 한다는 기준을 명확히 세웠기 때문입니다.

AI 기반 제품을 만드는 스타트업과 개발자들에게도 강력한 경고가 될 것입니다. 플랫폼 생태계를 교란하는 가짜 리뷰 생성 기능을 제공하거나, 소프트웨어의 효능을 과장해 부당한 수익을 약속하는 행위는 더 이상 ‘기술 혁신’으로 용인되지 않습니다.