핀터레스트, AI 생성 콘텐츠 라벨 공식 도입…자동 감지 및 '덜 보기' 지원

핀터레스트에서 현실적인 인테리어 영감이나 헤어스타일을 찾으려다 한눈에 봐도 가짜 티가 나는 AI 생성 이미지에 낚여 엉뚱한 외부 사이트로 연결된 경험이 적지 않을 것입니다.

몇 달간의 시범 운영을 거친 핀터레스트가 AI 생성 콘텐츠 라벨을 전 세계 모든 사용자에게 공식 적용했습니다. 앱 내에 급증하는 이른바 ‘AI 쓰레기(AI slop)’ 문제를 정면으로 해결하겠다는 조치입니다.

자율 신고 대신 메타데이터와 자체 알고리즘 병행

사용자가 핀 이미지를 클릭해 상세 화면으로 들어가면, AI가 개입된 이미지의 경우 화면 왼쪽 하단에 ‘AI modified’ 라벨이 표시됩니다.

핀터레스트는 크리에이터의 자발적 표시에만 기대지 않습니다. 이미지 자체의 메타데이터를 분석하는 것은 물론, 겉보기에 티가 나지 않는 이미지라도 AI 흔적을 찾아내는 자동 감지 분류기를 개발해 함께 투입했습니다.

기술적으로는 IPTC 사진 메타데이터 표준을 활용합니다. 이 규격은 대체 텍스트뿐 아니라 이미지 편집 과정과 제작에 쓰인 도구 정보를 담고 있어 AI 생성 도구 사용 여부를 확인하는 데 쓰입니다. 다만 감지 시스템이 완벽할 수는 없는 만큼, 잘못 지정된 라벨에 대해 크리에이터가 이의를 제기할 수 있는 절차도 함께 마련했습니다.

뷰티·아트 분야부터 ‘AI 덜 보기’ 기능 도입

단순히 라벨을 붙이는 데 그치지 않고, 피드에서 AI 이미지를 직접 치워버릴 수 있는 기능도 준비 중입니다.

핀터레스트는 AI 생성물이 특히 많이 유입되는 뷰티와 예술 카테고리를 시작으로, 핀 오른쪽 하단 메뉴에서 ‘덜 보기’를 선택할 수 있는 실험을 곧 시작합니다. 사용자가 이 옵션을 누르면 알고리즘이 이를 반영해 해당 유형의 콘텐츠 추천을 줄이게 됩니다.

왜 중요한가

실제 따라 할 수 있는 디자인이나 스타일링 팁을 찾는 일반 사용자에게 이번 기능은 매우 유용합니다. 특히 현실성이 핵심인 뷰티나 공예 분야에서 실현 불가능한 가짜 이미지에 낭비하는 시간을 줄일 수 있습니다.

업계 관점에서도 플랫폼 신뢰도를 지키기 위한 필수 조치로 풀이됩니다. 스팸 업자들이 AI로 생성한 자극적인 이미지를 미끼 삼아 외부 사기 사이트로 트래픽을 빼돌리는 사례가 늘어나는 상황에서, 방치했다가는 이미지 검색 엔진으로서의 정체성을 잃을 수밖에 없습니다.

우리는 핀터레스트가 창작자의 양심에 맡기는 ‘자율 표시’를 넘어 메타데이터 분석과 추천 알고리즘의 네거티브 피드백을 결합한 방식을 영리하게 설계했다고 봅니다. 다만 일반적인 사진 보정과 생성형 AI의 경계가 갈수록 모호해지는 만큼, 자동 감지기가 정상적인 창작물을 오분류할 경우 크리에이터의 반발과 항의 처리에 적잖은 리소스가 소모될 가능성은 남아 있습니다.