구글, SynthID 디텍터 출시: 텍스트·음성·영상 속 AI 워터마크 한곳에서 감지

생성형 AI로 만들어진 이미지나 음성의 완성도가 높아지면서, 이제 눈과 귀만으로는 진짜와 가짜를 구별하기가 거의 불가능해졌습니다. 빅테크들이 워터마크 기술을 도입해 왔지만, 정작 외부 사용자가 이를 확인할 방법이 없다면 실효성이 떨어질 수밖에 없습니다.

Google은 자사 AI로 생성된 콘텐츠를 식별할 수 있는 검증 포털인 SynthID Detector를 발표했습니다.

네 가지 모달리티를 한곳에서 검증

SynthID는 원래 AI 이미지용 비가시적 워터마크로 출발했으나, 점차 텍스트, 오디오, 비디오로 적용 범위가 넓어졌습니다. Google에 따르면 현재 Gemini, Imagen, Lyria, Veo 등의 모델을 거쳐 100억 개 이상의 콘텐츠에 SynthID 워터마크가 적용된 상태입니다.

이번에 공개된 SynthID Detector는 이러한 다양한 형태의 미디어를 한곳에서 스캔할 수 있는 웹 포털입니다. 이미지, 오디오, 비디오, 텍스트 파일을 업로드하면 SynthID 포함 여부를 탐지합니다.

단순히 포함 여부만 알려주는 것이 아니라, 워터마크가 감지된 구체적인 위치까지 표시해 줍니다. 오디오의 경우 워터마크가 감지된 특정 구간을 집어내고, 이미지의 경우 해당 영역을 시각적으로 강조해 보여줍니다.

현재는 초기 테스터를 대상으로 먼저 공개되었으며, 언론인과 미디어 전문가, 연구자들을 중심으로 대기자 명단을 접수받고 있습니다.

구글 생태계 밖으로의 확장

구글 내부 콘텐츠만 확인하는 것으로는 한계가 명확하기에, 외부 파트너십 확장도 함께 추진 중입니다.

구글은 이미 텍스트용 SynthID 기술을 오픈소스로 공개해 외부 개발자들도 자체 모델에 적용할 수 있도록 했습니다. 비디오 분야에서는 NVIDIA와 협력하여, NVIDIA Cosmos 프리뷰 NIM 마이크로서비스로 생성된 영상에도 SynthID가 들어가도록 작업했습니다.

또한 이번 발표와 함께 글로벌 콘텐츠 검증 플랫폼인 GetReal Security와의 파트너십도 발표했습니다. 타사 검증 솔루션에서도 SynthID를 직접 식별할 수 있도록 지원한다는 계획입니다.

왜 중요한가

우리는 워터마크를 심는 데 그치지 않고 외부인이 이를 직접 조회할 수 있는 창구를 열었다는 점에서 이번 조치가 매우 실질적이라고 평가합니다.

취재 현장의 언론인이나 팩트체커에게는 중요한 도구가 될 수 있습니다. 논란이 되는 영상이나 음성이 유포되었을 때, 이것이 구글 AI로 생성된 결과물인지 공신력 있게 교차 검증할 수 있는 길이 열렸기 때문입니다.

하지만 이 도구를 모든 AI 생성물을 잡아내는 만능 탐지기로 오해해서는 안 됩니다. SynthID Detector가 찾는 것은 어디까지나 SynthID 워터마크일 뿐입니다. 타사 모델이나 워터마크가 없는 오픈소스 딥페이크 툴로 제작된 악의적 콘텐츠는 이 시스템을 그대로 통과하게 됩니다.

결국 업계 전반의 공통 표준이 정착되지 않는다면 검증 작업의 파편화는 피하기 어려워 보입니다. 의미 있는 방어 수단이 하나 늘어난 것은 분명하지만, 디지털 콘텐츠의 신뢰 문제를 근본적으로 해결하기까지는 아직 갈 길이 멉니다.