황당 답변 논란에 입 연 구글, AI 오버뷰에 풍자·포럼 글 제한 조치

지난주 피자에 치즈가 잘 붙도록 접착제를 바르라거나 매일 일정량의 돌을 먹으라는 황당한 조언을 보셨다면, 그 주범은 구글의 새로운 검색 기능이었습니다.

구글 I/O에서 미국 전체 사용자를 대상으로 공개된 AI 오버뷰(AI Overviews)가 출시 직후부터 소셜 미디어에서 거센 조롱을 받았습니다. 이에 구글은 5월 30일 공식 블로그를 통해 문제의 원인을 짚고 대대적인 수정 조치를 발표했습니다.

풍자와 드립을 구별하지 못한 AI

구글의 설명에 따르면 AI 오버뷰는 단순한 챗봇처럼 작동하지 않습니다. 모델 혼자 환각을 일으켜 말을 지어내는 것이 아니라, 구글 검색 랭킹 시스템과 결합해 웹상에서 신뢰도 높은 상위 검색 결과를 요약하도록 설계되었습니다.

문제는 질문 자체가 비정상적이어서 제대로 된 정보가 아예 없는 정보 공백(data void) 상태에서 터졌습니다. 사람이 돌을 몇 개나 먹어야 하는지 진지하게 다룬 웹페이지는 존재하지 않기 때문입니다.

결국 시스템은 한 지질학 소프트웨어 업체 웹사이트에 전재되어 있던 유머성 풍자 글을 진지한 정보로 오인해 요약본으로 내놓았습니다. 레딧 같은 인터넷 커뮤니티의 냉소적인 댓글이나 짓궂은 장난을 사실로 오인해 접착제 피자 레시피를 추천한 것도 같은 맥락입니다.

구글은 억울함도 호소했습니다. 임산부 흡연이나 차량 내 반려견 방치처럼 위험한 답변이 나왔다는 소셜 미디어 캡처 상당수는 조작된 가짜 이미지였다고 해명했습니다.

게시판 인용 줄이고 생성 조건 강화

신뢰도에 타격을 입은 구글은 시스템 전반에 걸쳐 10여 가지 이상의 기술적 개선을 적용했습니다.

터무니없는 질문을 감지해 AI 오버뷰를 아예 띄우지 않는 필터를 구축했고, 풍자나 유머 성격의 콘텐츠가 요약에 포함되지 않도록 차단했습니다. 사용자 생성 콘텐츠(UGC)인 포럼 게시글 인용 역시 위험 요소가 있는 질문에서는 대폭 제한하기로 했습니다.

정확도와 최신성이 생명인 뉴스 주제에는 AI 요약을 표시하지 않는 것을 원칙으로 삼았고, 건강 및 의료 관련 질문에도 트리거 조건을 한층 까다롭게 조정했습니다.

구글 집계에 따르면 AI 오버뷰가 표시된 검색 700万 건 중 정책 위반 사례는 1건 미만이었습니다. 그러나 하루 수십억 건의 검색이 이뤄지는 구글 생태계에서는 그 극소수의 오류조차 치명적인 조롱거리가 되기에 충분했습니다.

왜 중요한가

이번 사태는 생성형 AI를 거대한 대중 서비스에 무작정 결합할 때 어떤 리스크가 발생하는지 잘 보여줍니다.

일반 사용자 입장에서 AI 오버뷰는 여전히 맹신할 수 없는 단계입니다. 복잡한 검색어를 여러 번 입력하지 않아도 되는 장점은 있지만, 건강이나 안전과 직결된 문제라면 여전히 원본 링크를 직접 확인해야 합니다.

우리가 보기에 구글은 오픈AI와 퍼플렉시티의 거센 추격에 쫓겨 제품을 지나치게 서둘러 전면 배포했습니다. 거대언어모델은 인터넷 특유의 비꼼이나 드립을 문맥상 제대로 걸러내지 못하는데, 이를 검색 최상단에 띄우면서 권위를 실어준 것이 패착이었습니다.

결국 구글은 AI가 작동하는 조건을 줄이고 포럼 출처를 쳐내는 방식으로 수습에 나섰습니다. 안전성은 다소 회복하겠지만, AI가 개입할 수 있는 영역이 줄어들면서 기능 자체의 매력도 일부 깎여나갈 것으로 보입니다.