스페인 홍수 참사 진짜 사진, ‘AI 가짜’로 오인받는 현실

스페인 발렌시아 지역을 덮친 기록적인 폭우 직후, 소셜 미디어에는 눈을 의심케 하는 사진 한 장이 올라왔습니다. 좁은 골목길에 수십 대의 차량이 장난감처럼 뒤엉켜 쌓여 있는 장면이었습니다. 8시간 동안 제곱미터당 490리터가 넘는 폭우가 쏟아져 발생한 실제 참사 현장이었지만, 온라인 댓글 창의 반응은 차가웠습니다. 대다수가 미드저니나 달리로 만든 가짜 AI 이미지라고 단정한 것입니다.

피해 차량들의 번들거리는 질감과 찌그러짐 없는 둥근 외형, 그리고 망원 렌즈 특유의 공간 압축 탓에 현실의 비극이 오히려 AI 렌더링처럼 보였습니다. IT 저널리스트 찰스 아서가 사진 속 술집 간판을 단서로 애플 지도와 로드뷰를 샅샅이 뒤져 현장을 확인하고 나서야 이 사진은 비로소 진짜로 판명되었습니다.

가짜에 절여진 눈, 그리고 AI 쓰레기 피드

대중이 현실의 재난을 가짜 뉴스로 치부하게 된 배경에는 소셜 미디어를 뒤덮은 이른바 ‘AI 슬롭(AI slop, 저품질 생성물)’이 있습니다. 일상적으로 합성 콘텐츠에 노출되다 보니, 믿기 힘든 현실을 마주했을 때 ‘AI가 만들었겠지’라는 방어적 불신이 먼저 작동하는 셈입니다.

정작 소셜 미디어 플랫폼들은 이 저질 콘텐츠의 범람을 막을 생각이 없어 보입니다.

404 미디어의 보도에 따르면, 메타의 마크 저커버그 CEO는 최근 실적 발표 자리에서 페이스북과 인스타그램 등에 AI가 생성하거나 요약한 새로운 형태의 피드 콘텐츠를 대거 도입하겠다고 밝혔습니다. 저커버그는 이것이 사용자 경험을 더 흥미롭게 만들 것이라고 치켜세웠습니다.

플랫폼의 수익은 사용자의 체류 시간에서 나옵니다. 진짜 재난이든 AI가 꾸며낸 자극적인 허구든, 이용자를 화면에 붙잡아둘 수만 있다면 알고리즘에게는 똑같은 데이터일 뿐입니다.

공급자 측의 이해관계도 딱 맞아떨어집니다. 인도 등지의 콘텐츠 제작자들은 노인이 벌레에 물어뜯기는 것 같은 기괴하고 자극적인 AI 이미지를 배포해 감정적인 반응을 유도합니다. 이들은 플랫폼의 성과 보너스를 통해 1,000개의 공감당 최대 100달러를 벌어들이고 있습니다.

왜 중요한가

우리는 지금 딥페이크 공포가 전혀 다른 차원의 재앙으로 뒤집히는 분기점을 목격하고 있습니다.

그동안 생성형 AI의 가장 큰 위험은 가짜를 진짜처럼 믿게 만드는 기만이라고 여겨졌습니다. 하지만 스페인 홍수 사진이 보여준 현실은 정반대입니다. 가짜가 너무 흔해진 나머지, 목숨이 오가는 실제 비극마저 ‘알고리즘이 만든 허상’으로 치부되어 무관심 속에 묻히는 신뢰의 붕괴입니다.

일반 이용자 입장에서 매번 지도 앱을 켜서 현장을 검증할 수도 없는 노릇입니다. 진위를 가리는 비용이 너무 커지면 대중은 결국 세상의 모든 충격적인 소식에 감각을 닫아버리게 됩니다.

체류 시간을 늘리겠다고 AI 슬롭을 피드에 공식적으로 끌어들이려는 메타의 행보는 극도로 위험해 보입니다. 저질 합성 이미지로 지표를 방어하는 폐쇄적인 수익 구조는 단기적인 트래픽을 줄지 몰라도, 장기적으로는 플랫폼의 공적 신뢰를 완전히 갉아먹는 자해 행위에 가깝습니다.