인스타그램, 'AI로 제작·편집' 라벨 표기 기능 테스트 중

올해 초 스타일리시한 패딩을 입은 교황의 가짜 사진이 소셜 미디어를 휩쓸었던 사건을 기억하실 겁니다. 단순한 해프닝으로 끝났지만, 누구나 손쉽게 현실과 구분하기 힘든 이미지를 만들어낼 수 있다는 위험성을 전 세계에 똑똑히 각인시킨 계기였습니다.

이에 인스타그램이 AI 생성 콘텐츠를 식별하기 위한 장치를 본격적으로 준비하고 있습니다.

앱 내부 코드를 분석해 미공개 기능을 미리 포착해 온 연구원 알레산드로 팔루치(Alessandro Paluzzi)는 인스타그램 앱 내에서 개발 중인 새로운 알림 화면을 포착해 공개했습니다. 콘텐츠가 AI를 통해 생성되거나 편집되었음을 사용자에게 명확히 알려주는 기능입니다.

유출된 화면: 사용자의 양심에만 맡기지 않는다

공개된 스크린샷에 따르면 해당 화면에는 '크리에이터 또는 메타(Meta)가 이 콘텐츠가 AI로 생성되거나 편집되었다고 밝혔습니다'라는 안내 문구가 표시됩니다. 구체적으로는 'Meta AI'에 의해 생성된 이미지라는 점을 짚어주며, 생성형 AI의 개념과 AI 기반 게시물을 구별하는 방법에 대한 짤막한 설명도 덧붙여져 있습니다.

이러한 움직임은 시기적으로도 맞아떨어집니다. 메타는 최근 구글, 마이크로소프트, 오픈AI 등 주요 빅테크들과 함께 백악관에 모여 책임 있는 AI 개발을 약속했습니다. 이 서약의 핵심 조항 중 하나가 바로 AI 생성물임을 식별할 수 있는 워터마킹 및 라벨링 시스템 구축이었습니다.

관건은 이 시스템이 얼마나 자동으로 작동하느냐입니다.

악의적인 조작을 막으려면 게시자가 스스로 'AI 사용' 체크박스를 누르기만을 기대할 수는 없습니다. 유출 화면에 '메타가 밝혔다(Meta said)'라는 문구가 포함된 점으로 미루어 볼 때, 메타가 이용자의 자발적 신고에만 의존하지 않고 자체 시스템을 통해 선제적으로 감지해 라벨을 붙일 계획임을 엿볼 수 있습니다. 메타 대변인은 엔가젯(Engadget)의 확인 요청에 답변을 거부했으며, 더버지(The Verge)의 논평 요청에도 즉각 응하지 않았습니다.

대중화 기능 풀기 전 라벨부터 준비하는 메타

메타는 최근 대형 언어 모델 LLaMA 2를 오픈소스로 공개했지만, 인스타그램 같은 대표 서비스에 일반 이용자용 생성형 AI 기능을 본격적으로 탑재하지는 않은 상태입니다.

하지만 출시 준비는 착실히 진행 중입니다.

악시오스(Axios) 보도에 따르면 마크 저커버그 CEO는 지난 6월 전사 회의에서 텍스트 프롬프트를 이용해 인스타그램 스토리를 편집할 수 있는 기능을 개발 중이라고 밝혔습니다. 팔루치 역시 이미지의 특정 영역을 채우거나 바꿀 수 있는 'AI 브러시' 기능의 흔적을 발견한 바 있습니다. 파이낸셜타임스는 메타가 이르면 다음 달 다양한 페르소나를 가진 AI 챗봇을 제품 전반에 적용할 수 있다고 보도하기도 했습니다.

업계 전반에서도 대책 마련이 한창입니다. 구글은 검색 엔진에 이미지가 처음 색인된 시점과 출처를 추적할 수 있도록 돕는 '이 이미지 정보(About this image)' 기능을 올여름 출시할 예정입니다.

왜 중요한가

우리는 인스타그램의 이번 라벨링 도입이 소셜 미디어 생태계에서 매우 필수적이고 영리한 방어선 구축이라고 봅니다.

일반 이용자 입장에서는 피드를 보며 매번 가짜 사진인지 아닌지 신경을 곤두세우고 피로를 느낄 필요가 줄어듭니다. 하지만 창작자들에게는 새로운 기준이 골칫거리가 될 수 있습니다. 사진의 잡티나 색감을 살짝 보정한 수준인데도 플랫폼 알고리즘에 의해 'AI 제작' 딱지가 붙어버린다면 창작물의 진정성을 의심받는 억울한 상황이 생길 수 있기 때문입니다.

업계 차원에서 보면 메타의 행보는 상당히 계산적입니다. 일반 대중을 겨냥한 AI 편집 기능을 인스타그램에 대거 풀어놓기 전에 감시와 표기 체계부터 먼저 공개한 셈입니다. 백악관 서약을 발 빠르게 이행하는 모습을 보이면서 책임감 있는 플랫폼이라는 명분도 챙겼습니다.

문제는 자체 판별의 정확도입니다. '메타가 말했다'는 방식이 제대로 돌아가려면 오탐(False Positive)과 미탐을 최소화해야 합니다. 실제 사진에 AI 라벨을 잘못 붙이거나, 위험한 정치적 딥페이크를 거르지 못하고 방치할 경우 플랫폼이 짊어져야 할 신뢰도의 타격은 감당하기 힘들 정도로 커질 수 있습니다.