구글 어스, AI 기반 장소 변환 기능 출시 하루 만에 긴급 중단

현실의 위성 지도 위에 텍스트 몇 줄로 건물을 올리거나 과거를 복원하는 기술은 흥미롭지만, 분쟁 지역 한복판에 가짜 폭격 자국을 그려 넣을 수 있다면 이야기는 완전히 달라집니다.

구글은 7월 30일 웹용 구글 어스에 Nano Banana 2 기반 이미지 생성 기능을 도입했습니다. 사용자가 위성 및 항공 3D 지도 위에서 원하는 지점을 확대하고 프롬프트를 입력하면, 현실 지형을 바탕으로 맞춤형 이미지를 생성해 주는 기능이었습니다.

하지만 출시된 지 단 하루 만인 7월 31일, 구글은 이 기능을 전면 롤백하며 서비스를 중단했습니다.

단 하루 만에 문 닫은 위성 딥페이크

구글이 처음에 제시한 활용 사례는 희망적이었습니다. 기원전 78년 폼페이 유적의 번화한 거리를 복원하거나, 제미나이의 팩트 검색을 거쳐 자유의 여신상 인포그래픽을 만들고, 도쿄의 빈터에 상업 지구를 구상하는 도시 계획 등 다섯 가지였습니다.

그러나 악용 가능성에 대한 방어벽은 사실상 뚫려 있었습니다.

오픈소스 정보 분석 기관 디지털 디깅의 헹크 반 에스는 테스트를 통해 멕시코 국경 지대의 난민 모습이나 가자 지구 병원 옆에 생긴 거대한 폭탄 구덩이 위성 이미지를 손쉽게 만들어냈습니다.

반 에스는 테스트 과정에서 어떤 프롬프트도 거부당하지 않았고 완화되지도 않았다고 밝혔습니다. 심지어 구글 어스에서 생성된 영상은 하이브의 AI 탐지 도구까지 속여 넘겼습니다.

신뢰 훼손을 우려한 구글의 철회

구글은 처음에 생성된 이미지에 디지털 워터마크가 찍히고 유해 주제 차단 장치가 있다고 해명했습니다.

하지만 정책을 위반한 합성 이미지 캡처가 온라인에 퍼지기 시작하자 결국 하루 만에 서비스 철회를 발표했습니다.

구글은 업데이트된 성명을 통해 사용자들이 구글 어스를 현실 세계를 보여주는 매우 신뢰할 수 있는 창구로 여기고 있다는 점을 인정했습니다. 생성된 이미지가 공용 지도에 노출되지 않고 워터마크가 포함되어 있었지만, 더 강력한 안전장치가 마련될 때까지 기능을 거둬들이겠다고 밝혔습니다.

왜 중요한가

실제 위성 좌표 위에 생성 AI를 얹는 기획 자체는 도시 계획가나 건축가, 교육자에게 매우 매력적인 작업 방식이었습니다. 맨땅이 아닌 실제 지형 데이터 위에 즉시 시각화를 할 수 있기 때문입니다.

하지만 우리는 구글이 위성 사진이라는 매체가 지닌 '사실성'의 무게를 너무 가볍게 판단했다고 봅니다.

일반적인 AI 합성 사진과 달리 위성 사진 시점의 이미지는 대중에게 거의 객관적 진실로 받아들여집니다. 전자 워터마크가 찍혀 있다 해도 스크린샷으로 잘라 유포되면 지정학적 갈등 지역에서 심각한 가짜 뉴스로 둔갑할 위험이 큽니다.

이번 사태는 빅테크가 현실 지리 데이터와 결합된 AI 도구를 내놓을 때 일반적인 챗봇 수준의 필터링만으로는 어림도 없다는 점을 분명히 보여줍니다. 민감한 분쟁 지역에 대한 정교한 차단 장치 없이는 이 같은 기능이 다시 출시되기는 어려워 보입니다.