메타와 Inria, AI 모델 내부에 비가시성 워터마크 새기는 '스테이블 시그니처' 공개

스테이블 시그니처(Stable Signature)는 메타 FAIR와 프랑스 국립컴퓨터과학연구소(Inria)가 개발해 오픈소스로 공개한 이미지 워터마킹 도구다. 오픈소스 생성형 AI 모델에서 발생하는 이미지 출처 추적 문제를 모델 내부 수준에서 해결한다.

완성된 이미지 위에 워터마크를 덧씌우는 방식이 아니라, 모델의 디코더에 육안으로 보이지 않는 고유 서명을 직접 심어 넣는다. 이 모델로 생성된 이미지는 트리밍이나 압축, 색상 보정은 물론 추가 미세조정을 거쳐도 지워지지 않는 디지털 식별값을 갖게 된다.

동작 원리와 특징

기존 오픈소스 AI의 워터마크 보호 장치는 무력화하기 쉬웠다. 생성 코드 맨 끝에 워터마크를 찍는 한 줄만 지우면 그만이었기 때문이다. 이미 3대 오픈소스 저장소를 통해 110억 장 이상의 이미지가 생성된 상황에서, 이러한 후처리 워터마크는 실질적인 방어막이 되지 못했다.

스테이블 시그니처는 접근법을 완전히 바꿨다. 거대 모델 전체를 건드리지 않고, 잠재 변수를 최종 픽셀로 변환하는 '디코더' 모듈만 살짝 미세조정해 고유 비트 정보를 심는다.

예를 들어 모델 배포자가 다운스트림 기업이나 사용자별로 각기 다른 서명을 디코더에 심어 배포하면, 그 모델에서 나오는 모든 이미지는 생성 단계부터 해당 사용자의 고유 서명을 품게 된다. 제3자가 이를 분석해 어떤 모델 버전에서 나온 이미지인지 역추적할 수 있다.

특히 오픈소스 생태계와의 호환성이 뛰어나다. 사용자들이 자주 쓰는 드림부스(DreamBooth), 텍스처럴 인버전(Textual Inversion), 컨트롤넷(ControlNet) 같은 기술은 잠재 공간(Latent Space)에서만 작동하며 디코더는 수정하지 않는다. 즉, 다운스트림 사용자가 캐릭터를 학습시키거나 포즈를 제어하기 위해 모델을 아무리 미세조정해도 내장된 워터마크는 훼손되지 않는다.

극도로 낮은 오탐률과 강력한 내구성

기존 수동 검출 방식의 가장 큰 문제는 오탐(정상 사진을 AI 생성물로 오인)이었다. 가장 우수한 기존 검출 모델도 편집된 AI 이미지를 절반가량 잡아내는 동안 약 1%의 오탐률을 보였다. 하루 10억 장의 이미지가 올라오는 플랫폼이라면 매일 1000만 장의 인간 사진이 AI 위조물로 잘못 분류되는 셈이다.

스테이블 시그니처는 이 오탐률을 10의 마이너스 10승 수준까지 끌어내렸다. 필요에 따라 검출 임계값을 유연하게 설정할 수도 있다.

내구성 역시 뛰어나다. 소셜 미디어 상에서 이미지가 여러 사람을 거치며 압축되고, 일부분이 잘려 나가거나 필터가 입혀져도 디지털 데이터 속에 서명이 보존되어 최초 생성 모델을 안정적으로 식별해 낸다.

사용 방법과 오픈 현황

현재 메타와 Inria는 연구 논문과 공식 코드를 모두 공개했다.

하드웨어 부담도 적다. 파운데이션 모델 전체를 다시 학습시키는 것이 아니라 가벼운 디코더 파라미터만 미세조정하면 되기 때문에, 대규모 GPU 클러스터 없이도 서명 주입이 가능하다. 깃허브 등 공개 저장소를 통해 코드를 내려받아 자체 디퓨전 파이프라인에 즉시 통합해 볼 수 있다.

왜 중요한가

오픈소스의 개방성을 해치지 않으면서 생성물에 대한 책임을 묻는 영리한 해법이다.

사용자에게 워터마크 유지를 강제하거나 모델을 폐쇄형 API 뒤로 숨기는 대신, 모델 아키텍처 자체를 출처 검증 장치로 만들었다. 특히 컨트롤넷 같은 핵심 커뮤니티 도구들과 충돌하지 않도록 설계한 점이 돋보인다. 오픈소스 기반으로 생성 모델을 배포하거나 안전 규제를 선제적으로 준수해야 하는 개발팀이라면 지금 당장 검토해 볼 가치가 충분하다.