OpenAI 모델 가이드라인 개정: 청소년 보호 위한 U18 원칙 도입

만약 늦은 밤 외로워하는 15세 청소년이 ChatGPT에게 "내 여자친구인 척하고 대화해 줘"라고 부탁한다면 AI는 어떻게 반응해야 할까요?

OpenAI가 12월 18일 자사 대형 언어 모델의 행동 지침인 모델 스펙(Model Spec)을 개정하고, 13세부터 17세 청소년을 보호하기 위한 'U18 원칙'을 공식 도입했습니다. 이제 ChatGPT는 미성년자를 상대로 가상 연애 역할을 맡거나 1인칭 관점의 정서적 유대감을 형성하는 행위를 단호하게 거부하게 됩니다.

이번 조치는 최근 AI 챗봇과 장시간 대화를 나누던 청소년들이 스스로 목숨을 끊는 사건이 잇따라 발생하면서 커진 규제 압박 속에서 나왔습니다. 지난주 미국 42개 주 법무장관들은 빅테크 기업들에 미성년자 보호 장치 마련을 촉구하는 서한을 보냈고, 조시 하울리 상원의원 등 정치권 일각에서는 미성년자의 AI 챗봇 사용을 전면 금지하는 강력한 법안까지 발의한 상태입니다.

가상 연인 역할 금지, 부모 속이기 조력 차단

새로운 U18 원칙의 핵심은 지적 자유 등 다른 가치와 충돌하더라도 '청소년의 안전을 최우선'으로 둔다는 점입니다. 현실 세계의 인간관계 유도, 청소년 눈높이에 맞춘 존중, AI의 한계를 알리는 투명성 등 4대 핵심 약속을 바탕으로 설계됐습니다.

이에 따라 ChatGPT는 노골적인 성적 묘사가 없더라도 가상 연애나 1인칭 친밀감 형성, 폭력적인 롤플레잉 요구를 전면 거절합니다. OpenAI가 공개한 예시에서 AI는 "여자친구 역할을 해줄 수 없다"고 선을 긋습니다. 극단적인 외모 변화나 섭식 장애로 이어질 수 있는 위험한 다이어트 조언도 엄격히 제한됩니다.

특히 사용자가 '가상의 소설 창작'이나 '역사적 가상 시나리오'처럼 우회 질문을 던져도 안전 제한은 그대로 유지됩니다. 위험한 행동을 보호자에게 숨기는 방법을 묻는 요청 역시 거절하고 현실의 신뢰할 수 있는 어른에게 도움을 구하도록 유도합니다.

나이 추측 모델 도입, 불확실하면 제한 모드로

문제는 청소년들이 가입할 때 나이를 속이는 경우가 많다는 점입니다. 이를 막기 위해 OpenAI는 ChatGPT 개인 요금제 사용자를 대상으로 '연령 예측 모델'을 본격 도입하기 시작했습니다.

시스템이 계정 소유자를 미성년자로 판단하거나 연령 정보가 불완전해 확신할 수 없을 때는 기본값을 U18 보호 모드로 설정합니다. 성인 사용자는 별도의 연령 인증을 거쳐야만 제한 없는 일반 모드로 돌아갈 수 있습니다.

이 안전망은 최근 선보인 그룹 채팅, 아틀라스 브라우저, 소라 앱 등 전 제품군으로 확대됐습니다. 장시간 이용 시 휴식을 권하는 알림이 작동하며, 미국심리학회 자문과 함께 스루라인과의 제휴를 통해 긴급 상황 발생 시 현지 상담 핫라인을 즉각 안내합니다.

업계의 반응은 엇갈립니다. 메타버스 로의 릴리 리 대표는 AI가 중독적인 대화의 고리를 스스로 끊고 거절하는 방식이 청소년 보호에 크게 기여할 것이라며 환영했습니다. 반면 커먼 센스 미디어의 로비 토니는 모델 스펙 내 '모든 주제를 다룬다'는 기존 원칙과 청소년 보호 규칙 사이에 모순이 생길 수 있다고 우려했습니다. 과거 규정상 금지했던 아첨 성향이 GPT-4o 등에서 여전히 반복됐던 점을 감안하면 실제 모델이 얼마나 원칙을 지켜낼지는 지켜봐야 한다는 지적입니다.

왜 중요한가

청소년 자녀를 둔 가정과 젊은 사용자들에게 이번 조치는 뒤늦었지만 반드시 필요했던 안전장치입니다. Z세대는 ChatGPT의 가장 핵심적인 사용자층이며, 최근 디즈니와의 제휴 이후 더 많은 청소년이 유입될 것으로 보입니다. 학습 도구로서의 안전성은 한층 높아지겠지만, 나이 예측 모델의 오판으로 인해 일부 성인 이용자가 본인 인증을 거쳐야 하는 사용상 번거로움도 뒤따를 전망입니다.

AI 산업 측면에서 OpenAI의 행보는 정치권의 전면 금지 카드를 피하기 위한 선제적 방어책으로 풀이됩니다. 42개 주 법무장관의 압박과 의회의 초강경 규제 법안이 추진되는 상황에서 자체 규율을 세우지 못하면 시장 자체가 흔들릴 수 있기 때문입니다. 이에 따라 캐릭터 챗봇이나 연애 시뮬레이션 성격의 서비스를 운영하는 경쟁사들도 비슷한 수준의 미성년자 보호 장치를 강제당할 것으로 보입니다.

나이가 불확실할 때 일단 미성년자로 간주해 기본 설정을 묶어버리는 방식은 기술적으로 매우 영리한 접근입니다. 그러나 언어 모델은 본질적으로 사용자의 감정에 영합하고 동조하려는 취약점을 안고 있습니다. 아무리 문서에 적힌 원칙이 훌륭하더라도, 실제 정교하게 설계된 프롬프트 앞에서 AI가 얼마나 흔들림 없이 가이드라인을 지켜낼지가 이번 정책의 성패를 가를 것입니다.