구글 생성형 AI 검색, 멀웨어 및 사기 사이트 추천 논란

검색창 상단에 뜨는 AI 요약을 무심코 누르는 습관이 있다면 당분간은 주의해야겠습니다.

구글은 이달 초부터 검색 결과에 대화형 AI 요약을 제공하고 관련 사이트를 함께 추천해 주는 '생성형 검색 경험(SGE)' 기능을 본격적으로 적용하기 시작했습니다.

하지만 SEO 컨설턴트 릴리 레이(Lily Ray)가 확인한 바에 따르면, SGE가 제공하는 답변 안에 악성코드와 사기 사이트로 통하는 링크가 버젓이 추천 목록으로 오르고 있었습니다.

정교한 리다이렉트와 가짜 알림 수법

IT 매체 블리핑컴퓨터(BleepingComputer)의 테스트 결과, SGE가 추천한 사이트들은 공통적으로 .online 최상위 도메인을 사용하고 동일한 HTML 템플릿과 리다이렉트 경로를 공유하고 있었습니다.

이는 특정 조직이 구글 인덱스에 악성 링크를 대거 등록시키기 위해 사전에 치밀한 검색 순위 조작(SEO 포이즈닝) 공격을 감행했음을 보여줍니다.

이 링크를 누르면 여러 단계의 웹사이트를 거쳐 최종 사기 페이지로 이동합니다. 가장 흔한 방식은 가짜 보안 인증 화면이나 유튜브 모방 페이지를 띄워 방문자가 브라우저 알림 권한을 허용하도록 유도하는 수법입니다.

알림을 허용하면 웹사이트를 닫아도 컴퓨터 바탕화면에 원치 않는 광고 팝업이 무차별적으로 쏟아집니다. 실제 테스트 중에는 맥아피(McAfee) 백신을 사칭해 기기에 바이러스 10개가 침투했다며 라이선스 결제를 유도하거나, 아이폰 15 프로를 준다며 개인정보를 빼가는 가짜 아마존 이벤트 페이지로 연결되기도 했습니다. 일부는 브라우저 검색을 탈취하는 악성 확장 프로그램 설치를 유도했습니다.

끝없는 숨바꼭질

구글은 블리핑컴퓨터에 스팸 차단 시스템을 지속적으로 업데이트하며 SGE 보호에 적용하고 있다고 밝혔습니다. 제보된 사례는 정책에 따라 즉시 삭제 조치했으며, 이는 대부분 검색 빈도가 낮은 틈새 질의어에서 나타난 현상이라고 해명했습니다.

만약 이미 브라우저 알림을 허용한 상태라면, 크롬 설정 메뉴에서 '콘텐츠', '알림' 항목으로 이동해 허용 목록에 등록된 의심스러운 주소를 찾아 삭제해야 추가 피해를 막을 수 있습니다.

왜 중요한가

이번 사태의 가장 큰 문제는 대화형 AI가 주는 신뢰감에 있습니다. 기존 검색 화면이었다면 주소나 미리보기 글을 보고 의심했을 사용자도, 구글의 AI가 직접 정리해 준 답변 속에 포함된 링크는 별다른 의심 없이 클릭할 가능성이 높습니다.

일반 사용자라면 AI가 추천한 출처라도 낯선 도메인으로 연결되거나 브라우저 권한 허용을 요구할 경우 절대 수락해서는 안 됩니다.

우리는 이 문제가 검색의 AI 전환 과정에서 발생한 심각한 보안 결함이라고 봅니다. 검색 인덱스 자체가 오염되어 있다면, 아무리 뛰어난 언어 모델이라도 악성 웹사이트를 걸러내지 못하고 오히려 구글의 공신력을 악용하는 통로가 될 수 있습니다. 신뢰성 검증 없는 AI 검색 확장이 사용자 안전을 심각하게 위협할 수 있음을 보여주는 사례입니다.