구글, AI 생성 이미지 식별하는 워터마크 기술 'SynthID' 공개

Google DeepMind와 Google Cloud가 생성형 AI로 만든 이미지를 식별할 수 있는 디지털 워터마크 도구인 'SynthID'의 베타 버전을 공개했습니다.

그동안 쓰이던 이미지 구석의 로고 워터마크는 잘라내기만 하면 사라졌고, 파일 정보가 담긴 메타데이터 역시 SNS 업로드나 파일 변환 과정에서 쉽게 삭제되는 한계가 있었습니다.

SynthID는 이러한 문제를 해결하기 위해 이미지의 픽셀 자체에 사람의 눈에는 보이지 않는 디지털 워터마크를 직접 새겨 넣는 방식을 채택했습니다.

압축과 필터링을 견디는 픽셀 워터마크

SynthID의 가장 큰 특징은 편집에 대한 내구성입니다. DeepMind에 따르면 이미지에 필터를 씌우거나 색상을 바꾸고, JPEG 같은 손실 압축 형식으로 다시 저장하더라도 워터마크를 감지할 수 있습니다.

이 시스템은 함께 훈련된 두 개의 딥러닝 모델로 작동합니다. 하나는 원본 품질을 해치지 않으면서 픽셀에 워터마크를 심고, 다른 하나는 이미지를 스캔해 Imagen 모델로 생성되었는지 여부를 세 가지 신뢰도 단계로 판별합니다.

현재 SynthID는 Google Cloud의 Vertex AI에서 텍스트-이미지 생성 모델인 Imagen을 사용하는 일부 고객을 대상으로 제한적으로 배포되고 있습니다.

다만 DeepMind는 극단적인 이미지 조작까지 완벽하게 막아내지는 못한다고 밝혔습니다. 향후에는 이미지 외에도 오디오, 비디오, 텍스트 등 다른 모델과 모달리티로 기능을 확장할 계획입니다.

왜 중요한가

생성형 AI의 품질이 인간의 눈으로 진위를 가릴 수 없는 수준에 도달하면서, 출처를 증명하고 허위 정보의 확산을 막는 도구는 필수가 되었습니다.

메타데이터가 손실되더라도 픽셀 단위에서 AI 생성 여부를 확인하는 기술은 실용적인 대안을 제시합니다. 엔터프라이즈 환경에서 AI 생성 콘텐츠를 안전하게 활용하려는 기업 고객에게는 도입을 적극 검토할 만한 신뢰 장치가 될 수 있습니다.

그러나 한계도 분명합니다. SynthID는 기본적으로 Google의 자체 모델인 Imagen으로 만든 콘텐츠를 식별하는 도구이기 때문에, 다른 상용 엔진이나 오픈소스 모델을 악용한 딥페이크까지 잡아낼 수는 없습니다.

우리는 Google이 클라우드 서비스 차원에서 책임 있는 AI 인프라를 발 빠르게 구축했다는 점을 긍정적으로 봅니다. 하지만 이 기술이 실질적인 사회적 방파제가 되려면 제3자에게 탐지 기능을 개방하고 업계 공통 표준으로 확장하는 과정이 반드시 뒤따라야 할 것입니다.