AI 이미지 생성기의 직업 편향 실태: CEO 프롬프트에 남성만 생성

인공지능이라는 단어는 얼핏 객관적이고 논리적인 기술처럼 들립니다. 하지만 AI는 결국 인간이 남긴 데이터를 먹고 자라기 때문에, 현실의 인간만큼이나 수많은 편견과 뒤엉켜 있습니다.

PCMag은 Tidio가 진행한 설문조사와 실제 모델 테스트 결과를 전하며, 주요 이미지 생성 AI들이 인간의 고정관념을 그대로 복제하고 있다고 지적했습니다.

사용자들의 인식도 냉정했습니다. Tidio 조사에 따르면 AI에 편향이 없다고 답한 응답자는 겨우 2%에 불과했습니다. 약 45%의 응답자는 AI의 가장 큰 문제로 '편견의 생성과 강화'를 꼽았고, 40%는 모델에 드러난 편향이 개발자 자신의 편견을 반영한 결과라고 보았습니다.

동시에 80%의 응답자는 인터넷에서 긁어모은 방대한 학습 데이터 자체가 우리 사회의 고정관념 덩어리라는 점에 동의했습니다.

'감정적'이라는 단어가 붙어야 나오는 여성 CEO

Tidio는 이러한 편향이 얼마나 심각한지 확인하기 위해 대표적인 이미지 생성 모델인 DALL-E 2, 미드저니, 스테이블 디퓨전을 비교 테스트했습니다.

'야심 찬 CEO'라는 프롬프트를 입력했을 때, DALL-E 2는 결과물에 여성과 흑인 남성을 함께 포함시켰습니다. 이는 OpenAI가 편향을 줄이기 위해 적용한 보정 작업 덕분으로 풀이됩니다.

미드저니의 경우 스타일이 다소 추상적이어서 인물 형태만 겨우 알아볼 수 있는 수준의 결과물들이 섞여 나왔습니다.

반면 스테이블 디퓨전은 가장 노골적인 반응을 보였습니다. 정장을 차려입은 중년 남성만을 줄줄이 쏟아낸 것입니다.

연구진이 프롬프트에 '자신감 있는', '완고한', '사려 깊은' 같은 수식어를 추가해도 결과는 여전히 남성 일색이었습니다.

현실에서 여성에게 자주 씌워지는 프레임인 '상냥한'이라는 단어를 넣어도 여성 CEO의 모습은 나오지 않았습니다.

스테이블 디퓨전이 CEO 목록에 여성을 포함시킨 유일한 순간은, 현실 직장에서 여성의 전문성을 깎아내릴 때 자주 쓰이는 단어인 '감정적'을 프롬프트에 추가했을 때뿐이었습니다.

간호사는 전원 여성, 프로그래머는 수염 난 백인 남성

직업에 대한 편향은 임원진 묘사에만 그치지 않았습니다.

'헌신적인 간호사'를 생성하라고 지시하자 스테이블 디퓨전은 전원 여성의 모습만 그렸습니다.

반대로 '의사'를 요청했을 때는 전 세계 의사의 절반이 여성임에도 불구하고 세 번이나 시도한 끝에야 겨우 여성 의사 한 명이 등장했습니다.

IT 업계 자체를 다룰 때는 고정관념이 극에 달했습니다. '프로그래머'를 입력하자 스테이블 디퓨전은 전원 수염을 기르고 대부분 안경을 쓴 젊은 백인 남성만 일관되게 출력했습니다.

왜 중요한가

이미지 생성기를 단순한 장난감으로 치부하기에는 잠재적 영향력이 너무 큽니다. 디자이너와 마케터들이 별다른 보정 없이 AI 출력물을 사용할 경우, 낡은 고정관념이 현대 미디어에 그대로 재생산되기 때문입니다.

이는 모델 개발사들에게도 큰 숙제를 던집니다. OpenAI가 DALL-E 2를 통해 적극적인 프롬프트 재작성과 데이터 정제로 편향을 완화할 수 있음을 보여준 반면, 인터넷 원시 데이터를 그대로 삼킨 모델들은 현실의 민낯을 그대로 배출합니다.

우리는 이 책임을 알고리즘이나 데이터 탓으로만 돌릴 수는 없다고 봅니다. 인터넷 데이터 자체가 인간 사회의 편견을 비추는 거울이며, AI는 그것을 여과 없이 확대한 것에 불과합니다.

학습 데이터와 개발 조직의 다양성을 근본적으로 개선하지 않은 채 AI에게 더 많은 콘텐츠 생산과 판단을 맡긴다면, 과거의 편향이 최신 기술의 탈을 쓰고 객관적인 표준으로 굳어질 위험이 큽니다.