구글, 전 세계서 제미나이의 선거 관련 질문 답변 제한

올해 주요 선거를 앞두고 AI에게 각 정당의 공약이나 후보자 이력을 물어보려던 이용자라면 헛걸음을 하게 생겼습니다.

테크크런치가 확인한 바에 따르면, 구글은 선거가 치러지는 전 세계 모든 국가에서 자사 AI 챗봇 제미나이(Gemini)의 선거 관련 질의응답을 전면 제한하기 시작했습니다. 이 조치는 이미 미국에 적용되었으며, 총선을 앞둔 인도를 비롯해 향후 몇 달 내 선거가 예정된 주요 국가로 확대 적용 중입니다.

오타 하나로 뚫리는 두더지 잡기식 차단

제한이 적용된 지역에서 제미나이에게 특정 정당이나 후보, 정치인에 대해 물어보면 AI는 답변을 거부합니다.

대신 해당 질문에 대해 여전히 학습 중이니 구글 검색을 이용해 보라는 정형화된 안내 문구만 내놓습니다.

구글은 중요한 사안에 대해 극도의 신중을 기하기 위한 조치라며, 고품질 정보 제공을 위해 보호 장치를 지속적으로 개선하고 있다고 밝혔습니다.

하지만 차단망은 여전히 허술합니다. 테크크런치의 테스트 결과, 프롬프트에 고의로 오타를 섞어 입력하면 제미나이가 필터를 우회해 버젓이 답변을 내놓는 사례가 확인됐습니다. 전형적인 프롬프트 엔지니어링 두더지 잡기 게임이 벌어지고 있는 셈입니다.

인도 정부의 압박과 잇단 논란의 여파

구글이 이처럼 납작 엎드린 데에는 최근 겪은 연이은 사고가 결정적이었습니다.

인도에서는 지난달 제미나이가 나렌드라 모디 총리에 대해 파시스트로 규정된 정책을 시행했다는 취지로 답변해 인도 정부의 거센 반발을 샀습니다. 직후 인도 정부는 빅테크 기업들이 새로운 AI 모델을 배포하기 전에 정부 승인을 받아야 한다는 지침까지 내렸습니다.

여기에 더해 제미나이는 지난달 역사적 인물 이미지 생성 기능에서 심각한 왜곡 논란을 일으키며 사람 이미지 생성 기능을 일시 중단하기도 했습니다.

왜 중요한가

우리는 구글의 이번 조치가 생성형 AI의 한계를 자인하고 위험 부담을 전통적인 검색 엔진으로 떠넘긴, 지극히 방어적인 선택이라고 봅니다.

일반 유권자 입장에서는 각 당의 방대한 정책을 알기 쉽게 요약해 주는 AI 본연의 효용을 가장 필요할 때 빼앗기게 됐습니다. 정작 오타 몇 개로 제한이 뚫리는 수준이어서 악의적인 왜곡 시도를 막지도 못하면서 선량한 일반 이용자의 질문만 차단하는 꼴입니다.

업계 전반으로 보면 구글은 슈퍼 선거의 해에 정치적 질의를 아예 포기해 버린 첫 번째 빅테크가 됐습니다.

생성형 AI가 환각과 정치적 편향 문제를 완전히 해결하지 못하는 이상, 기술 기업들이 규제와 정치적 후폭풍 앞에서 취할 수 있는 최선의 수는 침묵뿐이라는 사실을 보여줍니다.