구글, AI 생성 이미지 가려내는 '이 이미지 정보' 기능 발표

미드저니(Midjourney) 같은 생성형 인공지능이 일상화되면서 이제 사진 한 장만 보고 사실 여부를 판별하기는 거의 불가능해졌습니다. 명확한 표시가 없으면 사람들은 거짓으로 꾸며낸 이미지라도 자신의 눈을 그대로 믿어버리기 쉽습니다.

자체 생성형 AI 기술을 공격적으로 확장하고 있는 구글이 이미지가 진짜인지, 아니면 알고리즘이 만든 가짜인지 구별할 수 있도록 돕는 두 가지 기능을 내놓았습니다.

사진의 출처와 경로를 역추적하는 기능

첫 번째 기능은 향후 몇 달 안에 미국에서 먼저 선보일 '이 이미지 정보(About this image)'입니다.

구글 이미지 검색에서 사진 옆의 점 세 개 아이콘을 누르거나, 구글 렌즈로 검색할 때, 또는 구글 앱에서 위로 스와이프하면 해당 사진의 이력을 확인할 수 있습니다.

제공되는 정보는 크게 세 가지입니다. 해당 사진이나 유사 이미지가 구글에 언제 처음 색인되었는지 보여주어 최신 사진인지 과거 사진인지 가늠할 수 있게 합니다.

또한 웹상에 처음 등장한 위치가 어디인지도 알려줍니다. 신뢰할 수 있는 언론사에서 처음 나온 것인지, 아니면 커뮤니티 게시판에서 시작된 것인지 바로 확인할 수 있습니다.

마지막으로 팩트체크 웹사이트, 소셜 미디어, 뉴스 플랫폼 등 다른 어디에 게재되었는지도 추적합니다. 원본의 맥락과 전혀 다른 설명이 붙어 유포되고 있는지 이용자가 직접 대조해볼 수 있습니다.

미드저니와 셔터스톡도 동참한 메타데이터 표기

구글은 이용자의 사후 검색에만 기대지 않고 생성 단계의 표시도 강화하기로 했습니다.

자사 도구로 생성된 이미지 원본 파일에 AI가 생성했다는 메타데이터 마크업을 직접 삽입하겠다고 약속했습니다.

이러한 표준화 작업에는 이미 미드저니와 셔터스톡(Shutterstock)이 동참하기로 뜻을 모았으며, 향후 다른 플랫폼들도 합류할 예정입니다.

구글 검색 프로덕트 매니저인 코리 던튼(Cory Dunton)은 2022년 포인터(Poynter) 연구를 인용하며 이용자의 62%가 최소 매주 한 번 이상 허위 정보를 접한다고 느낀다고 설명했습니다. 일상적인 검색 환경 안에 직관적인 검증 도구를 넣으려는 이유입니다.

왜 중요한가

일반 이용자 입장에서는 소셜 미디어에서 의심스러운 사진을 발견했을 때, 복잡한 교차 검증 없이 구글 렌즈나 검색창에서 출처와 최초 게시 시점을 곧바로 확인할 수 있다는 점에서 실용성이 큽니다.

산업 측면에서는 구글이 독자 규격에 머물지 않고 미드저니와 셔터스톡 같은 핵심 생성 도구 및 이미지 공급사를 끌어들여 메타데이터 표준을 만들려 한다는 점이 영리한 접근입니다.

다만 우리가 보기에 이 기능에는 뚜렷한 한계가 존재합니다. 바로 이용자가 스스로 의심을 품고 메뉴를 클릭해 확인해야 하는 '능동적 탐색'을 전제로 한다는 점입니다.

가짜 이미지가 소셜 미디어에서 폭발적으로 퍼져나갈 때, 의문을 품고 사실관계를 확인하는 사람들은 이미 미디어 리터러시를 갖춘 소수에 불과합니다. 올바른 맥락을 제공하는 방향성은 맞지만, 급증하는 생성형 가짜 이미지를 차단하기에는 방어막의 범위가 다소 좁아 보입니다.