메타, 인스타그램·페이스북서 오픈AI·구글 등 AI 생성 이미지 전면 라벨링

소셜 미디어를 넘겨보다가 너무나 그럴듯한 이미지를 마주했을 때, 이것이 진짜 사진인지 AI가 만든 가짜인지 헷갈렸던 경험이 있을 것입니다.

Meta는 향후 몇 달에 걸쳐 Facebook, Instagram, Threads에 게시되는 AI 생성 이미지에 식별 라벨을 부착하겠다고 발표했습니다. 각 앱이 지원하는 모든 언어에 걸쳐 순차적으로 적용될 예정입니다.

기존에는 자사 도구인 Meta AI로 만든 실사형 이미지에만 라벨을 붙여왔지만, 이번에는 다른 기업들의 생성 도구로 만든 결과물까지 감지 대상을 대폭 넓힙니다.

타사 생성물까지 읽어내는 보이지 않는 표식

다른 도구로 만든 이미지를 짚어내기 위해 Meta는 업계 기술 표준을 적극 활용하기로 했습니다. 이미지 파일에 포함된 C2PA 및 IPTC 표준 기반의 비가시적 워터마크와 메타데이터를 대규모로 판별하는 시스템을 구축 중입니다.

이를 통해 Google, OpenAI, Microsoft, Adobe, Midjourney, Shutterstock 등이 자사 도구에 식별 정보를 심기 시작하면, Meta 플랫폼이 이를 감지해 자동으로 라벨을 달게 됩니다.

문제는 영상과 오디오입니다. 이미지와 달리 음성과 영상 분야에서는 업계 전반에 걸쳐 공통 신호가 널리 적용되지 않은 상태라 자동 감지에 한계가 있습니다.

Meta는 우선 사용자의 자율 신고 제도로 이 공백을 메우기로 했습니다. 실사형 영상이나 음성을 올릴 때 AI 생성 여부를 의무적으로 표시하도록 하고, 이를 숨길 경우 플랫폼 제재를 가할 방침입니다. 대중을 심각하게 오도할 위험이 있는 사안에는 더 눈에 띄는 경고 라벨이 붙습니다.

지워지는 메타데이터와 기술적 숨바꼭질

메타데이터 기반 식별의 치명적인 약점은 조작이 너무 쉽다는 점입니다. 화면을 캡처하거나 파일을 재가공하는 것만으로도 표식이 쉽게 지워집니다.

Meta도 이러한 한계를 인정하고 몇 가지 대안을 동시에 준비하고 있습니다. 표식이 아예 없는 파일이라도 인공지능 패턴을 직접 짚어내는 감지 분류기를 개발 중입니다. 또한 연구 조직인 FAIR를 통해 모델 생성 과정 자체에 지울 수 없는 워터마크를 심는 Stable Signature 기술도 연구하고 있습니다.

주요 선거를 앞둔 상황에서 Meta는 커뮤니티 가이드라인을 학습시킨 대형언어모델(LLM)을 심사 작업에 투입해, 안전한 콘텐츠를 빠르게 분류하고 전문 검토 인력이 위험도가 높은 콘텐츠에 집중하도록 시스템을 손보고 있습니다.

왜 중요한가

일반 이용자 입장에서는 피드에 넘쳐나는 가짜 이미지를 한눈에 가려낼 수 있는 안전장치가 생기는 셈입니다. 하지만 생성 AI를 활용해 사실적인 영상이나 오디오를 제작하는 창작자에게는 매번 콘텐츠 생성 과정을 스스로 밝혀야 하는 번거로움과, 누락 시 제재를 받을 수 있는 새로운 규제가 생겼습니다.

업계 차원에서는 거대 플랫폼인 Meta가 C2PA와 IPTC를 본격 수용하면서 상류에 있는 AI 모델 개발사들을 강하게 압박하는 계기가 됩니다. 생성 도구들이 메타데이터를 제대로 심지 않으면 이용자들이 소셜 미디어에 자유롭게 공유하기 어려워지기 때문입니다.

우리는 Meta의 표준 연합 활용 방식이 현실적이라고 보지만, 방어선 자체는 여전히 불안정합니다. 악의를 가진 사용자가 메타데이터를 걷어내는 것은 일도 아니며, 음성과 영상에 적용된 자진 신고는 사용자의 양심에만 기대고 있습니다. 결국 파일 깊숙이 지워지지 않는 표식을 남기는 기술이 표준화되기 전까지는 피할 수 없는 소모전이 이어질 것으로 보입니다.