오픈AI, 딥마인드 '신스ID' 워터마크 도입…생성 이미지 검증 도구 공개

온라인에서 가짜 이미지가 퍼질 때 가장 답답한 순간은 진짜인지 가짜인지 가리는 것보다, 검증 툴을 돌려봐도 양쪽 주장이 엇갈려 결론을 내리지 못할 때입니다.

OpenAI가 생성형 미디어의 출처를 투명하게 밝히기 위한 실질적인 카드를 꺼내들었습니다. C2PA 표준 적합 생성기 자격을 확보하는 한편, 경쟁사인 Google DeepMind와 손잡고 ChatGPT와 Codex, OpenAI API로 생성한 이미지에 보이지 않는 워터마크인 SynthID를 심기 시작했습니다. 이와 함께 일반 사용자가 직접 확인할 수 있는 공개 검증 도구도 선보였습니다.

메타데이터 위에 지문 하나 더 새기기

그동안 AI 생성물의 출처 증명은 주로 C2PA 기반 메타데이터에 의존해 왔습니다. 파일에 생성 일시와 제작 도구 정보를 암호화해 붙여두는 일종의 디지털 신분증 방식입니다.

문제는 이 메타데이터가 생각보다 쉽게 지워진다는 점입니다. 스크린샷을 찍거나 이미지 포맷을 바꾸고, 소셜미디어에 업로드되는 과정에서 손실되는 경우가 흔했습니다.

이번에 도입된 SynthID는 이 빈틈을 메웁니다. 겉에 라벨을 붙이는 대신 이미지 픽셀 구조 안에 육안으로는 보이지 않는 신호를 직접 새겨 넣는 방식입니다. 화면을 캡처하거나 크기를 조절해도 흔적이 쉽게 사라지지 않습니다. 자세한 제작 맥락을 담는 C2PA와 변형에 강한 SynthID가 서로를 보완하는 구조입니다.

OpenAI는 이 다층 방어 체계를 오디오 생성물로 넓히고 기업용 검증 API까지 내놓았으며, 유럽연합의 AI 법안 준수를 위해 텍스트 추적 작업으로도 범위를 확장하고 있습니다.

검출 실패 시 단정 짓지 않는 신중함

공개된 검증 웹페이지에 이미지를 올리면 OpenAI 도구에서 생성된 C2PA 메타데이터나 SynthID 신호가 있는지 분석해 줍니다.

주목할 점은 OpenAI의 조심스러운 태도입니다. 워터마크가 발견되면 자사 생성물임을 확인해주지만, 아무런 신호가 잡히지 않는다고 해서 무조건 AI가 만든 게 아니라는 식의 확정 결론을 내리지는 않습니다. 악의적인 훼손이나 심한 가공을 거치면 워터마크 신호가 날아갈 수도 있기 때문입니다.

한편 기술을 제공한 Google 역시 생태계 확장에 속도를 내고 있습니다. Google에 따르면 SynthID는 이미 1,000억 개 이상의 이미지 및 비디오와 6만 년 분량의 오디오에 적용되었으며, Gemini 앱 내 검증 기능은 전 세계적으로 5,000만 회 이상 쓰였습니다. Kakao와 ElevenLabs 등 주요 기업들도 SynthID 대열에 합류한 상태입니다.

왜 중요한가

프론티어 모델 시장에서 치열하게 싸우는 OpenAI가 출처 추적 기술만큼은 Google의 SynthID를 전격 채택했다는 사실 자체가 시사하는 바가 큽니다. 출처 검증 기술이 플랫폼마다 파편화되면 시장 전체가 신뢰를 잃는다는 점을 두 공룡 기업 모두 인정한 셈입니다.

일반 사용자나 창작자 입장에서 공식 검증 도구의 등장은 반가운 일이지만, 만능 탐지기로 오해해서는 안 됩니다. 현재로서는 OpenAI 자사 도구로 만들어진 결과물에 한정되며, 오픈소스 모델을 악용해 만든 딥페이크나 정교하게 우회된 파일까지 잡아내지는 못합니다.

그럼에도 메타데이터와 비가시적 워터마크를 결합한 접근법은 지금까지 나온 대안 중 가장 실용적입니다. 스마트폰 카메라로 찍은 원본은 하드웨어 차원에서 진본 증명을 달고, AI 생성물에는 지울 수 없는 지문을 심는 흐름이 정착되면서 인터넷 환경의 출처 검증 인프라가 비로소 현실적인 궤도에 오르고 있습니다.