구글, 제미나이 인물 생성 기능 몇 주 내 재개 추진

미국 건국의 아버지를 그려달라고 했더니 다양한 인종의 인물들이 등장했습니다. 역사적 사실과 어긋나는 이미지를 생성해 논란이 된 구글 제미나이의 인물 이미지 생성 기능이 지난주 전격 중단되었습니다.

바르셀로나에서 열린 MWC 무대에 선 딥마인드 창립자 데미스 허사비스는 이 기능이 앞으로 몇 주 안에 복구될 것이라고 밝혔습니다.

선의로 만든 기능의 무리한 적용

사회자 스티븐 레비의 질문에 허사비스는 복잡한 기술적 설명 대신, 좋은 의도로 도입한 기능이 지나치게 일률적으로 적용된 탓이라고 해명했습니다.

구글은 전 세계 200개 이상의 국가에 서비스를 제공하고 있습니다. 개를 산책시키는 사람이나 병원의 간호사 같은 일반적인 프롬프트에는 사용자의 배경에 맞춰 보편적이고 다양한 묘사가 제공되어야 합니다.

하지만 역사적 인물을 묘사할 때는 당연히 결과물의 분포가 훨씬 좁아야 했습니다. 허사비스는 모델이 문맥을 구분하지 못하고 모든 영역에 다양성 기준을 적용해 오류가 발생했다고 인정했습니다.

그는 역사적 정확성을 분명히 중요하게 생각하며, 문제를 수정해 앞으로 몇 주 내에 인물 생성 기능을 다시 정상화할 예정이라고 덧붙였습니다.

이와 함께 허사비스는 생성형 AI가 독재 정권의 선전 도구 등으로 악용되는 문제에 대해 테크 기업뿐 아니라 사회 전체와 정부가 함께 해결책을 모색해야 한다고 말했습니다.

오픈소스 AI 모델에 대해서도 현재는 초기 단계라 괜찮지만, 3년에서 5년 뒤 계획 수립 능력을 갖춘 강력한 차세대 시스템이 악의적인 주체나 불량 국가의 손에 들어가면 통제가 어려워질 수 있다고 경고했습니다.

하드웨어와 관련해서는 5년 뒤에는 스마트폰을 넘어 사용자의 상황 맥락을 직접 볼 수 있는 스마트 글래스 형태가 차세대 AI 비서의 핵심 폼팩터가 될 수 있다고 내다봤습니다.

왜 중요한가

이번 사태는 AI에 인간의 가치관을 주입하려는 시도가 얼마나 정교하지 못했는지를 여실히 보여줍니다. 다양성을 표방하려다 역사적 기본 사실마저 왜곡하면서 구글은 브랜드 신뢰도에 적지 않은 타격을 입었습니다.

일반 사용자와 창작자 입장에서는 역사나 특정 문화적 사실에 기반한 작업에서 생성형 AI를 그대로 신뢰하기 어렵다는 점이 확인되었습니다. 현재로서는 AI가 자의적으로 문맥을 왜곡할 위험이 상존합니다.

우리는 이번 사건이 AI 정렬 방식을 근본적으로 재검토하게 만드는 계기가 될 것으로 봅니다. 프롬프트를 기계적으로 변환해 다양성을 강제하는 방식은 실패로 끝났으며, 앞으로는 사용자의 의도와 역사적 사실을 문맥에 따라 구별하는 정교한 제어 기술이 핵심 경쟁력이 될 것입니다.