구글, AI로 가짜 리뷰 잡는다… 2023년 1억 7천만 건 이상 차단

동네에서 카페나 식당을 운영하는 자영업자에게 구글 지도 리뷰는 매출과 직결되는 문제입니다. 악의적인 별점 테러나 경쟁 업체의 조작된 후기는 늘 골칫거리였습니다.

구글이 이러한 허위 온라인 리뷰에 대응하기 위해 새로운 인공지능 기반 머신러닝 알고리즘을 도입했습니다. 구글에 따르면 2023년 한 해 동안 정책을 위반해 차단되거나 삭제된 가짜 리뷰는 1억 7,000만 건 이상으로, 전년 대비 45% 증가했습니다.

시간대별 패턴 추적으로 조직적 조작 적발

현재 구글이 처리하는 로컬 비즈니스 정보 업데이트는 영업시간 수정과 이용자 후기 등을 포함해 하루 약 2,000만 건에 이릅니다. 사람이 일일이 검수하기 불가능한 규모입니다.

새로운 알고리즘은 단일 문장의 어투만 보는 대신 시간 경과에 따른 행동 패턴을 종합적으로 분석합니다. 특정 매장에 짧은 시간 동안 1점이나 5점 리뷰가 급증하는 이상 징후를 감지하거나, 여러 매장 페이지에 걸쳐 동일한 리뷰가 복사되어 붙여넣어지는 것을 자동으로 잡아냅니다.

구글은 돈을 주고 거짓 칭찬 후기를 쓰게 하던 대규모 사기 조직을 이 시스템으로 포착해 추가 확산을 막았다고 설명했습니다. 텍스트 리뷰 외에도 정책 위반 영상 탐지가 전년 대비 1,400만 건 증가했으며, 비즈니스 프로필을 가로채려던 시도 200만 건 이상을 보안 프로토콜을 통해 사전에 차단했습니다.

왜 중요한가

소상공인 입장에서 가짜 리뷰 탐지 속도가 빨라진 것은 긍정적인 신호입니다. 악의적인 평점 조작에 노출되었을 때 플랫폼의 조치가 늦어지면 그 피해는 고스란히 업주의 몫으로 남기 때문입니다. 다만 알고리즘이 완벽할 수는 없으므로, 정상적인 고객 불만이 오탐되거나 교묘한 바이럴 마케팅이 걸러지지 않을 위험은 여전합니다. 업주 입장에서는 리뷰 피드백을 주기적으로 모니터링하고 이상 징후가 있을 때 즉각 신고하는 관리가 여전히 필요합니다.

업계 관점에서 보면 이번 조치는 생성형 AI 시대를 맞이한 필수적인 방어선 구축입니다. 거대언어모델을 사용하면 사람이 쓴 것과 구별하기 힘든 후기를 대량으로 찍어내는 비용이 거의 들지 않습니다. 구글이 문장 자체의 맥락뿐만 아니라 게시 패턴, 시간적 급증, 계정 간 연계성 같은 행동 지표에 집중한 것은 매우 영리한 대응입니다.

하지만 이것으로 문제가 완전히 해결되었다고 보기는 어렵습니다. 조작 세력이 알고리즘의 감시망을 피하기 위해 게시 주기를 며칠 단위로 늘리고 표현을 미세하게 다듬는 방식으로 진화한다면 탐지 난도는 다시 급격히 올라갈 것입니다. 1억 7,000만 건이라는 기록적인 수치는 시스템의 성과인 동시에, 신뢰도를 지키기 위한 비용이 얼마나 커지고 있는지를 보여주는 방증이기도 합니다.