OpenAI, 청소년 보호 위한 ChatGPT 자녀 보호 기능 출시

아이들의 숙제를 돕던 ChatGPT가 어느새 감정을 털어놓는 말벗이 되면서 벌어진 심각한 부작용에 대해 OpenAI가 마침내 강력한 제어 장치를 내놓았습니다. 청소년 자살 사건 관련 소송과 의회 청문회 등 거센 비판에 직면한 OpenAI가 웹 버전 전체 사용자를 대상으로 자녀 보호 기능(Parental Controls)을 출시했습니다.

모바일 앱에도 곧 적용될 예정이며, 가정 내 AI 사용 환경을 부모가 직접 통제할 수 있도록 지원합니다.

대화 내용은 안 보이지만, 기능은 잠글 수 있다

이 기능을 쓰려면 부모와 청소년 자녀가 상호 동의 하에 계정을 연결해야 합니다. 자녀가 언제든 연결을 끊을 수 있지만, 연결이 해제되면 부모에게 즉시 알림이 갑니다.

핵심은 부모가 자녀의 실제 대화 내역을 들여다볼 수는 없다는 점입니다. 사생활은 보호하되 안전 테두리만 설정하는 방식입니다.

부모는 설정 페이지에서 야간 사용을 제한하는 방해 금지 시간(quiet hours)을 걸거나, 음성 대화 기능 끄기, 이미지 생성 차단, 자녀 대화의 모델 학습 제외 등을 직접 설정할 수 있습니다.

특히 눈에 띄는 것은 '메모리 기능 비활성화'입니다. 대화가 장기간 누적되면 안전 가드레일이 약화되어 챗봇이 위험한 대화에 동조할 가능성이 높아진다는 점을 OpenAI 스스로 인정한 바 있습니다. 과거 대화를 기억하지 못하게 해 과도한 정서적 유착을 막겠다는 의도입니다.

자해 징후가 포착될 경우 전담 인력의 검토를 거쳐 부모에게 SMS, 이메일, 앱 푸시로 긴급 경보를 보내는 시스템도 도입되었습니다. 동시에 정서적으로 위험한 대화가 감지되면 맞장구를 잘 치는 GPT-4o 대신 방어 능력이 뛰어난 GPT-5-thinking으로 중간에 모델을 자동 교체하는 안전 라우팅 시스템도 함께 시험 중입니다.

왜 중요한가

학부모 입장에서는 아이가 밤새 AI와 부적절한 대화를 나누거나 데이터가 무단 학습되는 위험을 덜 수 있어 유용합니다. 하지만 자녀가 연동에 동의해야만 작동하므로, 다른 계정으로 우회 접속하는 식의 구멍은 여전히 존재합니다. OpenAI가 행동 기반 연령 예측 시스템을 개발 중이라고 밝혔으나 완전 적용까지는 시간이 더 필요합니다.

AI 업계 전반에는 사용자의 기분을 무조건 맞춰주던 '순응형 챗봇'의 시대가 저물고 강력한 규제와 안전 시스템이 필수 요소로 자리 잡는 신호탄이 될 것입니다. GPT-4o의 지나치게 다정한 성향이 위기 상황에서는 독이 되었던 만큼, 경쟁사들 역시 다층 안전장치 도입을 서두를 수밖에 없습니다.

우리는 사생활 침해 논란을 피하면서 기능적 제약만 부모에게 넘겨준 이번 설계가 꽤 영리한 타협점이라고 봅니다. 다만 성인 이용자들 사이에서는 안전 라우팅 때문에 일반 답변 품질까지 떨어지고 어른까지 통제받는다는 불만이 벌써 터져 나오고 있습니다. 지나친 검열감과 안전성 사이의 균형을 잡는 일은 여전히 거대한 숙제로 보입니다.