구글 검색 AI 오답 논란: 피자 치즈 안 떨어지게 풀 바르라 조언

피자를 구울 때 치즈가 자꾸 흘러내린다면, Google의 새로운 AI 검색은 기상천외한 해결책을 제시합니다. 토마토소스에 무독성 접착제를 8분의 1컵 정도 섞어서 접착력을 높이라는 조언입니다.

농담처럼 들리지만, Google이 야심 차게 내놓은 검색 요약 기능인 AI Overviews가 실제로 내놓은 답변입니다. 불과 지난주 연례 개발자 회의 I/O에서 Google 검색 총괄 리즈 리드는 Google이 당신 대신 검색을 해줄 것이라며 2024년 말까지 전 세계로 확대하겠다고 발표했습니다. 하지만 서비스가 본격화되자마자 어처구니없는 답변들이 쏟아져 나오고 있습니다.

11년 전 인터넷 장난글을 정답으로 학습한 AI

피자에 접착제를 넣으라는 이 황당한 조언은 X 이용자들의 추적 결과 11년 전 레딧에 올라왔던 장난 댓글에서 비롯된 것으로 밝혀졌습니다. 인터넷 유저가 던진 뻔한 조롱과 유머를 대형 언어모델이 진지한 요리 비결로 받아들인 셈입니다.

환각 사례는 이뿐만이 아닙니다. 비즈니스 인사이더의 피터 카프카 기자가 런던탑이 2차 세계대전 당시 독일군 폭격으로 파괴되었는지 묻자, AI Overviews는 런던탑을 시계탑 빅벤과 혼동하여 지붕과 시계 문자판이 공습으로 손상되었다는 틀린 답을 내놓았습니다. 소셜 미디어에는 개가 북미아이스하키리그 NHL에서 선수로 뛴 적이 있다는 식의 황당한 답변 캡처도 돌고 있습니다.

이에 대해 Google 대변인은 비즈니스 인사이더를 통해 이러한 사례는 극히 드문 검색어에서 발생한 일이며 대부분의 사용자 경험을 대변하지 않는다고 해명했습니다. 또한 기능을 출시하기 전에 광범위한 테스트를 거쳤으며, 대다수의 요약은 높은 품질의 정보를 제공한다고 덧붙였습니다.

왜 중요한가

일반 사용자에게 이번 사태는 AI가 정리해 준 검색 결과를 그대로 믿어서는 안 된다는 분명한 경고입니다. 번역이나 문장 다듬기에서는 AI의 실수가 큰 문제가 되지 않지만, 요리나 건강, 안전과 직결된 정보에서 잘못된 조언을 따르면 위험할 수 있습니다. AI 요약을 검증하느라 시간을 더 쓰는 상황이라면, 당분간은 기존 웹사이트 링크를 직접 확인하는 편이 훨씬 안전합니다.

산업 측면에서 보면, OpenAI의 검색 시장 진출설과 퍼플렉시티 같은 신흥 주자들의 추격에 쫓긴 Google이 다소 성급하게 완성도가 떨어지는 기능을 밀어붙인 것으로 보입니다. 검색 엔진의 본질은 정보의 정확성과 신뢰성에 있는데, 인터넷 밈과 엄밀한 사실조차 구분하지 못하는 모델을 검색 결과 최상단에 강제로 배치한 셈입니다.

Google이 수십 년간 쌓아 올린 가장 강력한 자산은 정답을 찾아준다는 이용자들의 믿음이었습니다. 하지만 AI 요약이 11년 전 인터넷 장난글을 사실인 양 읊어대는 일이 반복된다면, 편리함을 주려던 기능이 오히려 검색 서비스 전체의 신뢰도를 갉아먹는 독이 될 수 있습니다.