OpenAI, 청소년 보호 위해 연령 예측 시스템 도입 및 제한 강화 발표

인공지능에게 지극히 개인적인 비밀을 털어놓을 때, 사람들은 의사처럼 철저히 비밀을 지켜주길 바라면서도 위급한 순간에는 플랫폼이 안전망 역할을 해주길 원합니다. OpenAI가 바로 이 모순된 두 요구 사이에서 공식적인 결정을 내렸습니다.

OpenAI는 9월 16일 청소년 안전, 성인의 자유, 사용자 프라이버시가 충돌할 때 어떤 기준으로 문제를 해결할 것인지 담은 정책 방침을 발표했습니다.

성인에게는 자유를, 미성년자에게는 안전을

OpenAI가 내세운 핵심 원칙 중 하나는 성인 사용자를 진짜 성인으로 대하겠다는 점입니다. 모델의 제어 능력이 향상됨에 따라, 성인에게는 안전의 넓은 테두리 안에서 가능한 한 폭넓은 자유를 허용하겠다는 뜻입니다.

예를 들어 ChatGPT는 기본 설정 상태에서는 먼저 추파를 던지지 않지만, 성인 사용자가 원한다면 맞춰서 대화해야 합니다. 자살처럼 민감한 주제라 하더라도 성인이 소설 창작을 위해 관련 묘사를 요청할 경우 거절하지 않고 지원하도록 모델을 훈련하고 있습니다.

프라이버시 보호 수위도 대폭 끌어올렸습니다. AI와의 대화는 의사나 변호사와의 상담만큼 민감하기 때문에 법적으로도 특권적 보호를 받아야 한다며 정책 당국을 상대로 설득에 나서고 있습니다.

심지어 OpenAI 직원조차 사용자 대화를 열어볼 수 없도록 첨단 보안 기능을 개발 중입니다. 다만 생명에 대한 위협이나 대규모 사이버 공격 등 치명적인 위험이 감지될 때만 예외적으로 사람의 검토 절차를 거치게 됩니다.

이용 패턴으로 나이 추정하고 위급 시 부모에게 연락

반면 미성년자에게는 완전히 다른 잣대가 적용됩니다. 10대 청소년의 경우 자유나 프라이버시보다 안전을 무조건 최우선 순위에 두겠다는 방침입니다.

ChatGPT는 13세 이상을 대상으로 서비스되는데, OpenAI는 이용 행태를 바탕으로 나이를 유추하는 연령 예측 시스템을 개발하고 있습니다. 나이가 불확실하면 무조건 안전을 위해 18세 미만 모드로 기본 적용합니다. 일부 국가나 상황에서는 신분증 제출을 요구할 수 있으며, 이는 성인 프라이버시의 타협이지만 감수할 가치가 있다고 설명했습니다.

18세 미만 모드에서는 유혹적인 대화가 전면 금지되며, 창작 목적이라 하더라도 자해나 자살에 관한 대화는 일체 차단됩니다.

가장 강력한 조치는 직접적인 개입입니다. 18세 미만 사용자가 자살 충동을 드러낼 경우 보호자에게 연락을 시도하고, 연락이 닿지 않으면서 위험이 임박했다고 판단되면 경찰 등 관계 당국에 직접 신고할 방침입니다. 이를 뒷받침할 새로운 부모 통제 기능도 함께 선보입니다.

왜 중요한가

모든 사용자를 미성숙한 존재로 취급하며 일률적으로 답변을 틀어막던 기존 방식에서 벗어났다는 점은 긍정적입니다. 성인 창작자와 전문직 사용자는 불필요한 설교 없이 모델을 온전히 활용할 수 있게 되었습니다.

하지만 현실적인 허들도 만만치 않습니다. 텍스트 이용 습관만으로 미성년자인지 성인인지 정확하게 가려내는 것은 오작동 위험이 큽니다. 성인을 미성년자로 오인해 제한을 걸거나, 신분증 제출을 강제하는 순간 프라이버시를 지켜주겠다는 약속은 무색해질 수밖에 없습니다.

업계 전반에 미치는 파장도 상당합니다. AI와의 대화에 의료나 법률 수준의 비밀 보장 특권을 부여해야 한다는 주장은 AI 데이터 정책의 기준을 새로 쓰는 시도입니다. 동시에 자살 위기 학생의 부모나 경찰에 연락하겠다는 방침은 대화형 AI가 단순한 도구를 넘어 응급 안전망의 사회적 책임까지 짊어져야 하는 시대로 접어들었음을 보여줍니다.