OpenAI, 어린이 안전 전담팀 신설…미성년자 AI 오남용 방지

청소년 자녀가 있는 가정이라면, 아이들이 숙제 이상의 용도로 ChatGPT를 붙들고 있는 모습을 이미 보셨을 겁니다.

상당수 청소년들이 생성형 AI를 단순한 검색 도구가 아니라 심리적 고민을 털어놓는 말벗이나 인간관계 상담 창구로 활용하고 있습니다. 이에 따라 OpenAI도 본격적인 미성년자 보호 체계 구축에 착수했습니다.

OpenAI는 공식 채용 페이지를 통해 '어린이 안전 전담팀(Child Safety team)'의 존재를 공개하고, 어린이 안전 집행 전문가 채용을 시작했습니다. 자사 AI 도구가 미성년자에 의해 오남용되거나 악용되는 사례를 전문적으로 연구하고 차단하겠다는 취지입니다.

미성년자 관련 사고와 콘텐츠 집중 심사

채용 공고에 따르면 이번에 신설된 전담팀은 단독으로 운영되지 않습니다.

OpenAI 내부의 플랫폼 정책 부서, 법무팀, 조사팀은 물론 외부 전문 파트너와도 협력 체계를 구축합니다. 이를 통해 미성년 사용자와 관련된 처리 절차와 안전 사고, 심사 과정을 총괄 관리하게 됩니다.

새로 합류할 전문가는 AI 생성 콘텐츠에 OpenAI의 안전 규정을 적용하고, 아동과 관련된 민감한 콘텐츠를 걸러내는 심사 프로세스를 직접 담당하게 됩니다.

현재 OpenAI의 이용 약관은 13세 미만의 이용을 전면 금지하고, 13세부터 18세 미만 청소년은 부모의 동의를 받도록 규정하고 있습니다. 하지만 인터넷 환경에서 단순한 약관 동의 절차만으로 청소년의 유입을 막기란 사실상 불가능합니다.

AI를 감정적 도피처로 삼는 청소년들

청소년들의 생성형 AI 활용 실태는 이미 통계로도 확인되고 있습니다.

민주주의·기술 센터(CDT)의 설문조사에 따르면, 청소년의 29%가 불안감이나 정신 건강 문제를 해결하기 위해 ChatGPT를 사용해 본 적이 있다고 답했습니다. 22%는 친구 문제, 16%는 가족 갈등을 해결하는 데 AI를 활용했습니다.

반면 부작용도 만만치 않습니다. 영국 안전 인터넷 센터 조사 결과, 청소년의 53%가 또래들이 생성형 AI를 부정적으로 악용하는 사례를 목격했다고 응답했습니다. 그럴듯한 가짜 뉴스를 만들거나 타인에게 상처를 주는 이미지를 생성하는 식입니다.

유네스코(UNESCO) 오드레 아줄레 사무총장 역시 교육 현장에서의 생성형 AI 도입에 대해 정부 차원의 연령 제한과 데이터 보호 장치 마련을 강력히 촉구한 바 있습니다.

왜 중요한가

저희는 OpenAI의 이번 전담팀 신설이 기술 연구 기업에서 전 세계 수억 명이 쓰는 대중 플랫폼으로 체질을 전환하는 과정에서 반드시 치러야 할 통과의례라고 봅니다.

학부모와 교육자 입장에서 청소년의 AI 접근을 물리적으로 원천 차단하는 것은 이미 불가능해졌습니다. 한때 학교들이 내렸던 전면 금지 조치가 실효성을 잃고 번복된 것처럼, 플랫폼 내부에서 미성년자 관련 위험을 상시 모니터링하고 개입할 수 있는 전담 기구가 생기는 것은 필수적인 조치입니다.

비즈니스 측면에서도 방어막 구축이 시급했습니다. OpenAI는 첫 교육 기관 고객을 확보하고 커먼 센스 미디어와 협력해 가이드라인을 만드는 등 교육 시장 진출에 속도를 내고 있습니다. 하지만 미국 COPPA를 비롯한 미성년자 보호 법률을 위반할 경우 감당해야 할 규제 리스크와 이미지 타격은 치명적입니다.

다만 전문 심사 인력을 채용하는 사후 처방만으로는 한계가 뚜렷합니다. 감정적으로 미성숙한 청소년이 AI의 그럴듯한 답변에 과도한 정서적 유대를 형성하는 문제는 인간 심사관 몇 명으로 해결하기 어렵습니다. 모델의 사전 학습 단계부터 아동 심리를 고려한 엄격한 안전 정렬 기술을 어떻게 심어둘지가 앞으로의 진짜 승부처가 될 것입니다.