레딧 이용자들의 가짜 맛집 정보, 구글 AI 오버뷰 왜곡시켜

자신이 아끼는 식당이 관광객과 인플루언서로 붐비는 것을 막기 위해 런던 주민들이 레딧(Reddit)에 가짜 맛집 추천 정보를 올리기 시작했습니다.

동네 단골집을 지키려는 주민들의 짓궂은 장난이 구글 검색과 AI 요약 기능의 치명적인 허점을 정면으로 찔렀습니다.

사람이 쓴 글을 찾으려던 검색의 역설

최근 몇 년 동안 SEO 스팸과 저품질 AI 생성 글로 인해 구글 검색 품질이 떨어졌다는 불만이 꾸준히 제기되어 왔습니다.

이에 많은 사용자는 진짜 사람의 생생한 후기를 찾기 위해 검색어 뒤에 'site:reddit.com'을 붙여 검색하는 방식을 써왔습니다.

구글 역시 레딧 데이터의 가치를 알고 연간 약 6천만 달러 규모의 AI 학습 데이터 계약을 체결한 것으로 알려졌습니다.

이어 구글은 5월 미국에서 검색 결과 최상단에 AI 요약을 띄워주는 실험적 기능인 'AI 오버뷰(AI Overviews)'를 선보였습니다.

구글 검색 책임자인 리즈 리드 부사장은 5월 블로그 글을 통해 AI 오버뷰가 상위 검색 결과의 뒷받침을 받는 정보만 보여주도록 설계되었다고 설명했습니다.

하지만 언론인 벤지 에드워즈가 지적했듯, 이는 구글 알고리즘이 조작된 정보 대신 정확한 정보를 선별해낼 것이라는 잘못된 가정에 기반한 설계였습니다.

런던 주민들이 올린 풍자와 가짜 추천 글을 구글 알고리즘과 AI는 객관적인 사실로 오인해 요약본으로 노출하고 만 것입니다.

왜 중요한가

이번 사례는 소셜 미디어 게시글을 긁어모아 정답을 만들려는 AI 검색 엔진의 본질적인 한계를 보여줍니다.

우리가 보기에 현재의 AI 모델은 텍스트의 통계적 패턴만 파악할 뿐, 인간의 빈정거림이나 공동체 내부의 맥락적 거짓말을 걸러낼 감각이 전혀 없습니다.

일반 사용자 입장에서는 이제 레딧 검색 팁이나 AI 요약 정보를 곧이곧대로 믿기 어려워졌으며, 교차 검증의 피로도는 오히려 더 커졌습니다.

구글 입장에서도 연간 6천만 달러를 주고 사들인 데이터가 검색 결과의 신뢰도를 떨어뜨리는 부메랑으로 돌아온 모양새입니다.

빅테크 기업들이 글 뒤에 숨은 의도와 맥락을 분별하는 대책을 내놓지 못한다면, 생성형 AI 검색은 인터넷 유저들의 장난에 계속해서 휘둘릴 가능성이 큽니다.