오픈AI, 성인용 콘텐츠 허용 검토…'책임 있는 방식' 모색

그동안 빅테크 AI 기업들에게 성인용 콘텐츠는 절대 넘어서는 안 될 금기였습니다. ChatGPT에 조금이라도 수위 높은 질문을 입력하면 곧바로 거절 답변이 돌아오는 것이 당연했습니다.

하지만 OpenAI가 이 기준을 다시 검토하기 시작했습니다. OpenAI는 최근 공개한 모델 가이드라인 관련 문서에서, 적절한 연령대 환경을 전제로 성인용(NSFW) 콘텐츠를 책임감 있게 생성하는 방안을 모색 중이라고 밝혔습니다.

허용 여부를 검토 중인 범위에는 에로티카 텍스트와 누드 등 성적인 묘사가 포함되어 있어 업계에 적지 않은 충격을 주고 있습니다.

창작의 자율성과 딥페이크 금지 사이

문서 작성에 참여한 OpenAI 프로덕트 팀의 조앤 장은 NPR과의 인터뷰에서, 법을 위반하거나 타인의 권리를 침해하지 않는 선에서 사용자에게 최대한의 제어권을 부여하는 방안을 논의하고자 한다고 밝혔습니다.

그는 예술이나 문학 창작에서 성적인 표현이나 누드가 중요한 역할을 하는 경우가 분명히 존재한다고 설명했습니다. 다만, 타인의 얼굴을 합성하는 딥페이크 기술은 예외 없이 전면 금지라는 점을 분명히 못 박았습니다.

OpenAI 대변인 역시 회사가 직접 음란물을 만들려는 의도는 없으며, 아동 보호와 딥페이크 방지를 최우선으로 두고 적절한 연령대 맥락에서 대화를 탐색하는 중이라고 해명했습니다.

하지만 경영진의 모호한 태도는 이전부터 감지되었습니다. 미라 무라티 최고기술책임자는 앞서 월스트리트저널과의 인터뷰에서 동영상 생성 AI인 소라(Sora)에서 성인 콘텐츠 생성을 허용할 것이냐는 질문에 확신할 수 없다고 답한 바 있습니다.

쏟아지는 우려와 안전망의 한계

외부 전문가들과 인권 단체들의 시선은 매우 싸늘합니다.

영국 상원의원이자 온라인 아동 안전 운동가인 비반 키드론은 OpenAI가 안전하고 유익한 AI를 만들겠다는 설립 헌장을 스스로 훼손하고 있다고 비판했습니다. 더럼 대학교의 법학 전문가 클레어 맥글린 교수 또한 빅테크가 성인 콘텐츠를 합의된 방식으로만 안전하게 통제할 수 있다는 주장에 회의적인 입장을 나타냈습니다.

현재의 필터링 기술이 완벽하지 않다는 점도 문제입니다. 지난 1월 OpenAI 기술을 사용하는 마이크로소프트 디자이너를 통해 팝스타 테일러 스위프트의 가짜 누드 이미지가 대량 생성돼 유포되는 사건이 벌어졌습니다.

여기에 기존 성인 콘텐츠 창작자들의 데이터를 동의 없이 학습에 활용해 놓고, 이제는 공식적으로 AI 성인 콘텐츠 시장까지 열어 창작자들의 생계를 위협하려 한다는 비판도 피하기 어렵습니다.

왜 중요한가

성인용 콘텐츠는 늘 IT 신기술 확산의 강력한 동력이었지만, OpenAI 같은 대표 주자에게는 양날의 검입니다.

일반 창작자와 작가 입장에서는 지나치게 빡빡했던 검열이 완화되어 로맨스 소설이나 예술적 묘사 등에서 불필요한 차단을 피할 수 있다는 장점이 있습니다. 그러나 API나 웹 서비스 환경에서 완벽한 연령 인증과 오남용 방지 대책을 마련하는 것은 현실적으로 대단히 어렵습니다.

산업적 측면에서는 검열이 없는 오픈소스 모델로 성인 엔터테인먼트 수요가 대거 이동하자, OpenAI가 이용자 이탈을 막기 위해 방어선을 시험하는 것으로 보입니다.

우리가 보기에 책임감 있는 성인 콘텐츠 생성이라는 명분은 다소 설득력이 떨어집니다. 현재의 안전장치로도 비동의 합성물 생성을 완벽히 막지 못하는 상황에서, 섣부르게 빗장을 열었다가는 각국 규제 당국의 거센 압박과 대중의 신뢰 상실이라는 혹독한 대가를 치를 위험이 큽니다.