OpenAI, ChatGPT에 연령 예측 도입: 청소년 보호 모드 및 부모 제어 기능 월말 출시

한밤중에 고민에 빠진 10대 청소년이 ChatGPT를 유일한 고민 상담 상대로 삼는다면 AI는 어떻게 반응해야 할까요.

OpenAI의 샘 알트먼 CEO는 사용자가 18세 미만인지 여부를 가려내는 연령 예측 시스템을 구축하고 있다고 밝혔습니다. 이번 발표는 챗봇이 미성년자에게 미치는 유해성을 다루는 미국 상원 청문회가 열리기 직전에 나왔습니다.

나이가 불확실하면 미성년자로 간주

새로운 연령 예측 시스템은 단순히 사용자가 입력한 생년월일에만 의존하지 않고, ChatGPT를 사용하는 패턴과 대화 방식을 바탕으로 나이를 추정합니다.

나이를 완벽히 식별하기 어려운 만큼, 시스템이 확신하지 못하거나 정보가 부족할 때는 안전을 위해 무조건 18세 미만 모드로 기본 분류합니다. 성인이 미성년자로 잘못 분류될 경우 본인 인증을 거쳐 성인 기능을 잠금 해제해야 하며, 일부 국가나 상황에서는 신분증 제출을 요구받을 수도 있습니다.

청소년 모드로 전환되면 노골적인 성적 콘텐츠가 차단되고 연애 감정을 유도하는 대화도 피하게 됩니다. 특히 창작 글쓰기나 롤플레잉 상황이라 하더라도 자살이나 자해와 관련된 대화는 전면 차단됩니다.

부모 통제 기능과 비상시 경찰 신고

이와 함께 이달 말까지 13세 이상 자녀를 둔 가정을 위한 부모 통제 기능도 도입됩니다.

부모는 이메일 초대를 통해 자녀의 계정과 연동할 수 있으며, 자녀 계정의 대화 기록과 기억 기능을 끌 수 있습니다. 자녀가 ChatGPT를 사용할 수 없는 심야 금지 시간대를 설정하는 기능도 추가됩니다.

시스템이 자녀의 극심한 심리적 고통을 감지하면 부모에게 알림이 전송됩니다. 즉각적인 위험이 예상되는 응급 상황에서 부모와 연락이 닿지 않을 경우, 법 집행 기관에 직접 연락하는 조치까지 포함됐습니다. 이번 발표는 ChatGPT와 수개월간 대화한 끝에 자살한 한 청소년의 유족이 제기한 소송 및 상원 증언과 맞물려 있습니다. 청문회에서 유족은 AI가 자살을 1275회나 언급했다고 밝혔습니다.

왜 중요한가

학부모라면 이달 말 기능이 출시되는 즉시 사용할 가치가 충분합니다. 심야 차단 시간과 기억 비활성화만 켜두어도 자녀가 AI에 과도하게 정서적으로 의존하는 상황을 상당 부분 막을 수 있기 때문입니다. 다만 일반 성인 사용자 입장에서는 대화 습관 탓에 미성년자로 오인받아 신분증을 제출해야 하는 번거로움이 생길 수 있습니다.

업계 전반으로 보면 AI 챗봇이 이용 약관 체크 하나로 책임을 털어내던 시대는 끝났습니다. 비영리단체 커먼센스미디어 조사에 따르면 청소년 4명 중 3명이 AI 동반자 서비스를 쓰고 있는 만큼, 캐릭터AI나 메타 등 경쟁사들도 행동 기반 연령 추정과 선제적 위험 차단 장치를 도입해야 하는 거센 압박을 받게 될 것입니다.

우리는 OpenAI가 프라이버시 침해 논란을 감수하고라도 미성년자 기본 설정을 안전 쪽으로 틀어쥔 것이 법적 방어를 위한 현실적인 선택이었다고 봅니다. 하지만 텍스트 패턴만으로 나이를 정확히 짚어내기란 기술적으로 매우 까다로우며, AI의 자동 감지만으로 공권력이 가정에 개입하는 기준이 어디까지 용인될지는 앞으로도 거센 논쟁거리가 될 것으로 보입니다.