메타, 공개 계정 무단 딥페이크 생성 논란 인스타그램 AI 기능 전격 폐기

메타가 이번 주 인스타그램에 도입했던 논란의 AI 이미지 생성 기능을 거센 비판 끝에 전격 중단했습니다.

해당 기능은 메타 슈퍼인텔리전스 랩이 개발한 새 이미지 생성 모델인 뮤즈 이미지(Muse Image)와 함께 공개되었습니다. 이용자가 메타 AI에서 특정 공개 계정을 @태그하기만 하면, 계정 소유자의 동의나 알림 없이도 해당 계정의 사진을 참조해 새 AI 이미지를 만들어낼 수 있는 방식이었습니다.

메타는 설정 메뉴를 통해 거부(opt-out)할 수 있다고 설명했지만, 기본적으로 기능이 켜져 있었던 점이 큰 반발을 샀습니다. 미국 성착취반대센터(NCOSE)는 이 기능이 성착취 범죄와 사기꾼들에게 손쉬운 도구를 쥐여준 꼴이라며, 위험한 설계를 해두고 이용자에게 직접 옵트아웃하라는 책임을 전가하는 것은 용납할 수 없다고 강력히 비판했습니다.

미국 배우조합(SAG-AFTRA)도 소속 회원들에게 즉각 해당 기능을 끄라며 구체적인 방법을 공지했고, 대형 기획사 CAA를 비롯한 업계의 항의가 이어졌습니다. 결국 메타는 블로그를 통해 해당 기능이 기대에 미치지 못했다며 서비스를 완전히 종료한다고 발표했습니다.

왜 중요한가

공개 계정을 운영하는 일반 이용자 입장에서는 자신이 올린 일상 사진이 타인의 손에 의해 순식간에 딥페이크 합성물로 변할 수 있다는 공포를 직접 체감한 사건입니다. 비록 기능은 취소되었지만, 소셜 미디어 기업들이 이용자의 공개 데이터를 어디까지 생성형 AI의 원료로 취급하려 하는지 그 위험한 경계선을 여실히 보여주었습니다.

우리가 보기에 메타의 이번 기획은 지나치게 안일했습니다. 초상권과 딥페이크 악용 위험이 가장 민감한 시기에 사전 동의(opt-in)가 아닌 기본 활성화 방식을 택한 것은 큰 실책이었습니다. 엔터테인먼트 업계와 전문 단체의 즉각적인 반발로 빠르게 철회되긴 했으나, 향후 플랫폼들이 AI 도구를 소셜 기능과 결합할 때 안전장치를 얼마나 신중하게 설계해야 하는지 분명한 선례를 남겼습니다.