구글 제미나이 이미지 생성 논란: 인물 묘사 기능 일시 중단 및 사과

역사적 인물을 그려달라고 했더니 역사적 사실과 완전히 다른 인종이 등장한다면 당황스러울 수밖에 없습니다. Google의 Gemini가 바로 이 문제로 거센 비판을 받았습니다.

Google은 Gemini(구 Bard)에 인물 이미지 생성 기능을 선보인 지 불과 3주 만에 해당 기능을 일시 중단했습니다. 생성된 인물 이미지가 역사적 사실을 왜곡하거나 부자연스러운 결과를 내놓으면서 온라인상에서 거센 논란이 일었기 때문입니다.

과도한 보정이 부른 엉뚱한 결과

Gemini의 이미지 생성은 자체 모델인 Imagen 2를 기반으로 작동합니다. 개발진은 기존 생성 AI에서 자주 발생하던 편향이나 유해 콘텐츠 문제를 막기 위해, 인물 요청 시 다양한 인종이 골고루 등장하도록 미세 조정을 거쳤습니다.

축구 선수나 반려견을 산책시키는 사람처럼 일반적인 요청이라면 다양한 배경의 인물이 나오는 것이 바람직합니다. 하지만 Google에 따르면 두 가지 핵심적인 문제가 발생했습니다.

첫째는 다양성을 적용하지 말아야 할 역사적 맥락까지 제대로 구분하지 못했다는 점입니다. 둘째는 안전 필터가 과도하게 작동하면서 평범한 명령어까지 민감한 단어로 오인해 답변을 거부했고, 그 결과 특정 상황에서 기형적인 과잉 보정이 일어났습니다.

왜 중요한가

이번 사태는 빅테크 기업들이 AI 안전성과 다양성을 확보하는 과정에서 겪는 딜레마를 적나라하게 보여줍니다.

사용자 입장에서 역사적 맥락조차 이해하지 못한 채 무리한 가이드라인을 강제하는 AI는 실무 도구로서 신뢰를 잃을 수밖에 없습니다. Google이 빠르게 기능을 끄고 사과한 것은 불가피한 선택이었지만, 사전에 맥락 제어조차 제대로 검증하지 못했다는 비판은 피하기 어렵습니다.

업계 차원에서도 큰 숙제를 남겼습니다. OpenAI나 Midjourney 등과 경쟁이 치열해지는 상황에서, 과도한 안전장치가 오히려 서비스 품질과 사용자 경험을 망칠 수 있다는 점을 입증했기 때문입니다. 결국 단순한 키워드 필터링을 넘어 AI가 상황과 맥락을 얼마나 정교하게 파악할 수 있는지가 향후 정렬 기술의 핵심 승부처가 될 것으로 보입니다.