오픈AI, 아동 성착취 방지 위한 '아동 안전 청사진' 발표

생성형 AI 기술이 발전하면서 이를 악용한 디지털 범죄도 위험 수위에 도달했습니다.

인터넷 감시 재단(IWF)에 따르면 2025년 상반기에만 AI로 생성된 아동 성착취물(CSAM) 신고가 8,000건을 넘어서며 전년 동기 대비 14% 증가했습니다. 범죄자들이 AI로 가짜 음란 이미지를 만들어 금전을 갈취하는 성착취 협박에 쓰거나, 피해 아동을 꾀어내는 그루밍 대화 생성에 악용하는 사례가 늘어난 탓입니다.

이에 대응해 OpenAI는 4월 8일 AI 기반 아동 성착취를 근절하기 위한 정책 프레임워크인 '아동 안전 청사진(Child Safety Blueprint)'을 공개했습니다.

사법 당국과 손잡고 세운 3대 방어선

이번 청사진은 OpenAI 단독 작업이 아닙니다. 미국 실종학대아동방지센터(NCMEC)와 비영리단체 쏜(Thorn), 그리고 전미주검찰총장연합(AGA) AI 태스크포스가 개발 과정에 긴밀히 참여했습니다.

청사진이 제시하는 핵심 과제는 크게 세 가지입니다.

첫째는 법률 현대화입니다. AI가 생성하거나 합성한 착취물도 명확하게 처벌 대상이 되도록 관련 법안을 정비해야 한다는 내용입니다.

둘째는 신고 및 수사 공조 개선입니다. 기술 기업이 사법 기관에 전달하는 정보의 정확도와 속도를 높여 실제 수사로 빠르게 이어지도록 지원합니다.

셋째는 '설계 단계부터 안전(Safety-by-design)'을 적용하는 것입니다. 위험 프롬프트 거부와 탐지, 사람의 모니터링을 결합한 다층 방어 체계를 모델 개발 초기부터 구축하겠다는 구상입니다.

쏟아지는 소송과 규제 압박이 낳은 결과

OpenAI가 서둘러 안전 프레임워크를 들고나온 데에는 급격히 거세진 외부 압박이 자리 잡고 있습니다.

지난해 11월 소셜미디어 피해자 법률 센터 등은 캘리포니아 법원에 OpenAI를 상대로 7건의 소송을 제기했습니다. 원고 측은 GPT-4o가 미완성 상태로 출시되어 심리적 조작을 유발했고, 이로 인해 4명이 스스로 목숨을 끊고 3명이 심각한 망상에 빠졌다고 주장했습니다.

OpenAI는 그동안 18세 미만 청소년 사용자에 대해 자해 조장이나 보호자 회피 방법을 안내하지 못하도록 지침을 손질하고 인도 청소년을 위한 안전 청사진을 내놓는 등 수습에 나선 바 있습니다. 이번 청사진은 개별 서비스 차원을 넘어 규제 프레임 자체를 선점하려는 행보로 풀이됩니다.

왜 중요한가

AI 악용은 사후 대응이 거의 불가능할 정도로 확산 속도가 빠릅니다. 일반 이용자와 학부모 관점에서 보면 기술 기업이 합성 콘텐츠의 위험성을 공개 인정하고 시스템 초기 단계 차단을 약속했다는 점은 긍정적입니다.

하지만 이 문서는 법적 강제력이 없는 자발적 정책 제안에 불과합니다. AGA 태스크포스를 이끄는 노스캐롤라이나와 유타주 검찰총장들의 지적대로, 기업들이 얼마나 구체적인 기준에 스스로 책임을 질 것인지가 실제 효과를 결정짓습니다.

우리가 보기에 OpenAI의 이번 대응은 매우 영리합니다. 챗봇의 위험성을 둘러싼 소송과 비판이 최고조에 달한 시점에 규제 당국인 주 검찰총장들과 아동 보호단체를 자기편으로 끌어들여 '안전 기준의 설계자' 위치를 선점했기 때문입니다.

경쟁사들 역시 앞으로 비슷한 수준의 안전 설계와 수사 공조 프로세스를 갖추라는 압박을 받게 될 것입니다. 다만 OpenAI의 울타리 밖에서 동작하는 무제한 오픈소스 모델이나 해외 툴을 통한 악용까지 이 청사진이 막아내기는 어렵다는 한계는 여전히 남아 있습니다.