오픈AI, 챗GPT 이미지 생성 규제 완화: 공인 묘사 허용

그동안 ChatGPT에 정치인 캐리커처를 그려달라고 하거나 인물의 인종적 특징을 바꿔달라고 요청하면 매번 거절 창을 마주해야 했습니다.

하지만 이번 주부터 규칙이 완전히 달라졌습니다. OpenAI가 ChatGPT에 새로운 내장 이미지 생성기를 도입하면서, 그동안 꼼꼼히 둘러쳤던 안전장치를 대거 걷어냈기 때문입니다.

스튜디오 지브리풍 화풍으로 화제를 모은 이번 업데이트 이면에는 도널드 트럼프, 일론 머스크 등 공인의 얼굴 생성과 인종적 외모 수정까지 허용하는 파격적인 정책 변화가 숨어 있습니다.

무조건 거절에서 현실적 위험 방지로

OpenAI의 모델 행동 부문 리드 조앤 장은 블로그를 통해, 민감한 영역을 일괄 거부하던 기존 방식에서 벗어나 실질적인 피해를 막는 정밀한 방식으로 접근법을 바꿨다고 밝혔습니다.

OpenAI는 스스로가 누구를 그리고 누구를 그리지 말아야 할지 결정하는 심판자가 되고 싶지 않다는 입장입니다. 대신 공인이 원치 않을 경우 생성을 막을 수 있는 거부 신청 방식을 마련했습니다.

외모 묘사에 대한 기준도 크게 완화되었습니다. 예전에는 특정 인물의 눈매를 더 아시아인처럼 바꾸라거나 체형을 더 뚱뚱하게 만들라는 지시를 거부했지만, 테크크런치 테스트 결과 이제는 이런 요청이 정상적으로 처리됩니다.

심지어 교육적이거나 중립적인 맥락이라면 나치 문양 같은 혐오 상징 생성도 허용됩니다. 픽사나 지브리 같은 유명 제작사의 스타일 모방도 가능해졌습니다. 다만 생존 작가의 개인 화풍 복제는 여전히 제한되며, 아동 보호와 관련된 안전장치는 이전 DALL-E 3보다 더 강화되었다고 설명했습니다.

정치적 외풍 속에서 낮아진 문턱

이번 조치는 최근 실리콘밸리를 덮친 AI 검열 논란과 맞물려 있습니다. 과거 구글 제미나이가 미국 건국자나 2차 대전 독일 군인을 무리하게 다인종으로 생성해 거센 비판을 받았던 사례가 대표적입니다.

이달 초 미국 공화당 짐 조던 하원의원은 바이든 행정부와의 검열 담합 의혹을 조사하겠다며 OpenAI와 구글에 질의서를 보내기도 했습니다. 트럼프 행정부 출범을 앞두고 메타와 X가 규제를 완화하는 흐름과도 궤를 같이합니다.

OpenAI는 이번 개편이 정치적 목적이 아니며, 모델이 민감한 주제를 다룰 만큼 발전함에 따라 이용자 통제권을 확대한 것뿐이라고 선을 그었습니다.

왜 중요한가

콘텐츠 제작자와 일반 이용자 입장에서 ChatGPT의 도구적 효용은 확실히 크게 올랐습니다. 사소한 단어 하나에 생성이 막히던 답답함이 사라져 캐릭터 디자인 수정이나 시사 풍자 이미지를 훨씬 자유롭게 만들 수 있습니다.

업계 관점에서도 이번 행보는 영리해 보입니다. 트럼프 정부의 규제 압박을 피하면서 오픈소스 모델 진영의 자유도 공세에 효과적으로 맞불을 놓았기 때문입니다.

하지만 맥락에 따라 혐오와 중립을 가려내는 일은 기술적으로 매우 까다롭습니다. 당장 정치적 딥페이크 논란과 유명인 초상권 분쟁이 크게 늘어날 수밖에 없습니다. 표현의 자유를 명분으로 빗장을 푼 OpenAI가 조만간 터져 나올 부작용을 감당할 수 있을지 시험대에 올랐습니다.