구글 제미나이 이어 어도비 파이어플라이도 역사 왜곡 이미지 논란

지난달 구글의 제미나이가 흑인 나치 군인이나 흑인 미국 건국의 아버지를 생성하며 역사 왜곡 논란에 휩싸였고, 결국 순다르 피차이 CEO가 사과하며 인물 이미지 생성을 일시 중단했습니다. 당시 여론은 이를 구글 특유의 정치적 편향이 빚은 참사로 몰아갔습니다.

하지만 이는 구글만의 문제가 아니었습니다. 외신 세마포의 자체 테스트 결과, 어도비의 이미지 생성 AI 파이어플라이에서도 거의 동일한 오류가 반복되고 있는 것으로 확인되었습니다.

다른 데이터, 같은 오작동

세마포가 제미나이를 곤경에 빠뜨렸던 프롬프트를 파이어플라이에 입력하자, 제2차 세계대전 당시 나치 독일군 복장의 흑인 군인이 생성되었습니다. 1787년 미국 헌법 제정 회의 장면에는 흑인 남녀가 자연스럽게 배치되었고, 흑인 바이킹까지 등장했습니다. 백인 노인 만화 캐릭터를 그려달라는 요청에는 백인 노인 한 명과 함께 흑인 남성, 흑인 여성, 백인 여성이 세트로 제공되었습니다.

두 서비스는 완전히 다른 환경에서 제작되었습니다. 구글이 방대한 웹 데이터를 긁어모은 것과 달리, 어도비는 저작권 침해 우려를 없애기 위해 자사 스톡 이미지와 라이선스 콘텐츠, 퍼블릭 도메인 데이터로만 학습시켰습니다. 사내 문화 역시 구글처럼 활동주의 성향이 짙지 않은 전통적인 소프트웨어 기업입니다.

그럼에도 똑같은 결과가 나온 이유는 백엔드 안전장치 때문입니다. AI가 특정 직업이나 범죄자를 묘사할 때 인종적 고정관념을 답습하지 않도록, 기업들은 사용자가 입력한 프롬프트 뒷단에 다양한 인종을 섞도록 하는 시스템 프롬프트를 강제로 삽입합니다. 하지만 현재의 언어 모델은 이러한 다양성 요구가 현대적 맥락에만 필요한지, 실제 역사적 사실인지 구분할 지능을 갖추지 못했습니다.

실제로 지난해 5월부터 어도비 커뮤니티에는 백인 캐릭터를 그리려 해도 시스템이 멋대로 다인종 구성을 강요한다는 창작자들의 불만이 꾸준히 올라왔던 것으로 드러났습니다. 어도비는 성명을 통해 파이어플라이가 상상력을 돕기 위한 도구이지 역사적 사실을 정밀하게 재현하기 위한 목적이 아니라고 해명하며, 피드백을 통해 필터를 조정하고 재학습을 진행하겠다고 밝혔습니다.

왜 중요한가

우리는 이번 사례가 제미나이 사태의 본질을 다시 보게 만든다고 판단합니다. 이는 특정 기업의 이념 과잉이 아니라, 현재 생성형 AI 산업이 취하고 있는 안전 가드레일 방식 자체의 구조적 한계입니다.

창작자와 기업 고객에게 이러한 백엔드 개입은 작업 효율을 해치는 심각한 문제입니다. 상용 도구를 쓰는 이유는 원하는 이미지를 정확하고 일관되게 얻기 위함인데, 시스템이 뒤에서 프롬프트를 왜곡하면 의도했던 캐릭터 설정이나 시대적 고증을 맞추기가 매우 까다로워집니다.

업계 전반에도 경종을 울리고 있습니다. 그동안 기업들은 데이터의 편향을 잡기 위해 뒷단에서 규칙을 강제 주입하는 손쉬운 방식을 택해 왔습니다. 하지만 문맥의 뉘앙스를 온전히 이해하지 못하는 상태에서 덧씌운 가드레일은 또 다른 왜곡을 낳을 뿐입니다. 안전성과 정확성 사이에서 단순한 땜질식 처방은 더 이상 통하지 않는다는 사실이 분명해졌습니다.