구글 검색, AI 생성 이미지 라벨링 도입…C2PA 표준 적용

온라인에서 충격적인 사진을 봤을 때, 이 사진이 진짜 촬영된 것인지 아니면 생성형 AI가 만들어낸 이미지인지 구별하기란 갈수록 어려워지고 있습니다.

구글은 9월 17일, 앞으로 몇 달 안에 구글 검색 결과를 개편해 어떤 이미지가 AI로 생성되었거나 AI 도구로 편집되었는지를 명확히 표시할 계획이라고 밝혔습니다.

이 표시는 구글 검색의 '이 이미지 정보' 창을 비롯해 구글 렌즈, 그리고 안드로이드의 '서클 투 서치' 기능에 적용됩니다. 향후에는 유튜브 등 다른 구글 플랫폼으로도 확대될 가능성이 있으며, 구글은 올해 말 구체적인 계획을 추가로 공유할 예정입니다.

핵심 기준은 오직 C2PA 메타데이터

하지만 구글의 이번 판별 방식에는 뚜렷한 한계가 있습니다. 구글 검색에서 AI 조작 이미지로 표시되는 대상은 C2PA 메타데이터가 포함된 이미지뿐이라는 점입니다.

C2PA는 이미지의 생성 및 촬영에 사용된 장비와 소프트웨어 이력을 추적하는 기술 표준으로, 구글, 아마존, 마이크로소프트, 오픈AI, 어도비 등이 참여하고 있습니다.

문제는 이 표준의 도입률이 아직 턱없이 낮다는 사실입니다. 더 버지의 보도에 따르면 C2PA는 현재 소수의 생성형 AI 도구와 라이카, 소니의 일부 카메라 모델에서만 지원되고 있습니다.

게다가 메타데이터의 특성상 의도적으로 삭제하거나 지울 수 있고, 이미지를 웹에 재업로드하는 과정에서 손상되어 읽을 수 없게 되는 일도 흔합니다.

현재 xAI의 그록 등에 쓰이며 인기를 끌고 있는 플럭스 같은 최신 모델조차 개발사가 표준을 채택하지 않아 C2PA 데이터를 전혀 포함하지 않습니다.

왜 중요한가

불완전한 장치라 할지라도 대책 마련은 시급한 상황입니다. 한 추정에 따르면 AI 생성 콘텐츠를 악용한 사기는 2023년에서 2024년 사이 245% 급증했으며, 딜로이트는 딥페이크 관련 피해액이 2023년 123억 달러에서 2027년 400억 달러로 폭증할 것으로 내다봤습니다.

일반 사용자 입장에서 서클 투 서치 등을 통해 AI 출처를 바로 확인할 수 있다는 점은 유용하지만, 표기가 없다고 해서 무조건 진짜 사진이라고 믿는 위험한 착시가 생길 수 있습니다.

우리가 보기에 구글의 이번 행보는 거대한 검색 트래픽을 지렛대 삼아 업계 전체가 C2PA 표준을 채택하도록 압박하려는 영리한 전략으로 보입니다.

그러나 악의적인 유포자가 메타데이터를 지워버리면 무용지물이 되는 만큼, 자율적인 메타데이터 규약만으로는 딥페이크 사기를 원천 차단하기에 역부족이라는 숙제가 여전히 남아 있습니다.