인스타그램 대표 "AI 콘텐츠 전면 차단 대신 라벨링과 선택권 제공해야"

인스타그램 피드에 넘쳐나는 어색한 AI 생성 이미지에 피로감을 느끼는 사람이라면 주목할 만한 발언이 나왔습니다.

인스타그램 대표 아담 모세리는 레니 라치츠키의 팟캐스트에 출연해, AI 콘텐츠를 싫어하는 사용자라면 피드에서 이를 보지 않아야 마땅하다고 말했습니다. 하지만 플랫폼 차원에서 AI 콘텐츠를 일괄적으로 걸러내는 필터링을 도입하는 것에는 반대했습니다.

온통 AI뿐인 피드와 감지의 한계

모세리가 강조한 핵심은 전면 금지가 아닌 라벨링입니다. 사용자가 보고 있는 게시물이 AI인지 아닌지 명확히 알려주는 것이 플랫폼의 역할이라는 설명입니다.

그는 심지어 AI 콘텐츠를 좋아하는 사람들에게는 온통 AI 게시물로만 채워진 피드를 따로 제공할 수도 있어야 한다고 덧붙였습니다.

그러나 틱톡, 유튜브, 페이스북과 마찬가지로 인스타그램은 현재 AI 라벨만 붙일 뿐, 사용자가 피드에서 AI 게시물만 골라 숨길 수 있는 필터 옵션은 지원하지 않고 있습니다.

모세리는 AI 모델이 정교해질수록 이를 감지해 내는 일이 극도로 어려워지고 있으며, 결국 플랫폼이 감지 능력 자체를 잃어버릴 수 있다고 털어놓았습니다.

그는 대안으로 AI를 잡아내는 대신 카메라로 직접 촬영한 실제 콘텐츠에 라벨을 붙이는 방식이 더 현실적일 수 있다고 제안했습니다. 이는 그가 2025년 12월에 언급했던 실제 미디어 디지털 핑거프린트 구상과 맥을 같이합니다. 사용자가 이 이미지 AI야라고 물었을 때 플랫폼이 아마 맞을 것 같다, 확실치 않다, 절대 아니다 수준으로 답해주는 형태입니다.

스팸 단속 외치며 내놓은 위험한 기능

모세리는 저품질 AI 스팸을 단속할 방법을 찾아야 한다고 인정했지만, 메타의 AI 기능 출시는 거침이 없습니다.

인스타그램은 최근 메타의 AI 이미지 생성기인 뮤즈 스파크를 선보였습니다. 문제는 사용자가 다른 이용자의 계정을 태그하기만 하면 그 사람을 AI 생성 이미지 속에 곧바로 집어넣을 수 있다는 점입니다.

미국 국립성착취대응센터의 헤일리 맥나마라 전무이사는 이 기능이 괴롭힘과 성적 학대, 착취, 신원 도용으로 이어질 명백하고 예견 가능한 위험을 낳고 있다고 강하게 비판했습니다.

왜 중요한가

일반 이용자 입장에서 모세리의 이번 발언은 공허하게 들리기 쉽습니다. 보기 싫으면 보지 않아야 한다면서도 정작 피드에서 AI를 완전히 꺼버릴 차단 스위치는 주지 않고 있기 때문입니다.

우리는 생성 기술이 발전할수록 AI 탐지가 불가능해질 것이라는 모세리의 진단이 매우 현실적이라고 봅니다. 가짜를 쫓는 대신 진짜 카메라 촬영물을 인증하는 방향은 기술적으로 유일한 출구일 수 있지만, 이는 진짜 창작자가 자신의 진위를 스스로 입증해야 하는 기형적인 구조를 만듭니다.

더 큰 문제는 안전장치 없는 기능 출시입니다. 피드 내 AI 스팸도 제대로 통제하지 못하는 상황에서, 타인을 태그해 AI 이미지에 합성할 수 있는 기능을 내놓은 것은 심각한 위험을 동반합니다. 바이럴과 체류 시간을 위해 사생활 침해와 악용 가능성을 후순위로 미뤄둔 것 아니냐는 비판을 피하기 힘들어 보입니다.