OpenAI, 캘리포니아 청소년 AI 안전 법안 지지 및 틴에이저 전용 ChatGPT 출시

어른들이 업무용 이메일을 작성할 때 AI를 쓰는 사이, 청소년들은 이미 AI를 전담 과외 교사처럼 활용하고 있습니다.

OpenAI에 따르면 매주 ChatGPT를 사용하는 청소년 중 약 90%가 학습, 정보 탐색, 기술 습득을 목적으로 챗봇을 찾습니다. AI와 함께 자라는 첫 세대가 등장했지만, 이들을 보호할 안전망은 기술의 속도를 따라가지 못했습니다.

OpenAI 글로벌 정책 부사장 Ann O'Leary는 캘리포니아주 상원 법안 SB 1119에 대한 공식 지지 의사를 밝히며 개빈 뉴섬 주지사에게 법안 서명을 촉구했습니다. 연방 차원의 규제가 미비한 상황에서 캘리포니아가 청소년 AI 안전 기준을 선제적으로 세우는 셈입니다.

10대 전용 모드로 자동 격리

SB 1119는 플랫폼의 연령 확인, 독립 기관 감사, 자해 및 성 착취 등 유해 상호작용 차단을 의무화합니다. 심각한 위기 상황 시 지원 자원에 직접 연결하고, 부모 통제 권한을 부여하며 맞춤형 광고를 제한하는 내용도 담겼습니다.

이에 발맞춰 OpenAI는 13세부터 17세 이용자를 위한 전용 버전인 ChatGPT for Teens를 선보였습니다. 사용자가 밝힌 나이가 해당 범위에 있거나 시스템이 미성년자로 추정하면 즉시 전용 환경으로 자동 전환됩니다.

가장 중요한 점은 이 보호 기능이 기본 설정으로 고정되어 있어, 청소년이 임의로 비활성화할 수 없다는 것입니다.

교육 전문가들과 협력해 문제 풀이 과정을 단계별로 유도하는 학습 모드, 퀴즈, 시각화 기능이 탑재되어 숙제 대필을 막고 학습 습관을 돕습니다. 또한 모델 행동 지침을 개정해 미성년자와의 연애 관계 형성, 감정적 의존 조장, AI가 인간이거나 자의식을 가졌다는 주장을 엄격히 금지했습니다.

왜 중요한가

학생과 학부모 입장에서 이번 조치는 반가운 변화입니다. 단순히 정답만 긁어모아 주는 위험한 도구가 아니라, 안전장치가 마련된 안전한 학습 가이드 역할을 기대할 수 있기 때문입니다. 다만 연령 추정 오작동으로 일반적인 탐구 활동까지 과도하게 차단될 가능성은 여전히 숙제로 남습니다.

산업 전체로 보면 OpenAI의 선제적 규제 지지는 후발 주자들에게 높은 진입 장벽으로 작용할 전망입니다. 독립 감사와 정교한 청소년 보호 장치를 상시 운영할 여력이 없는 중소 개발사에는 상당한 부담이 됩니다.

우리는 OpenAI가 'AI는 소셜 미디어가 아니다'라는 논리를 앞세운 점이 매우 전략적이라고 판단합니다. 메타나 틱톡이 중독성 알고리즘으로 여론과 의회의 거센 질타를 받았던 전철을 밟지 않기 위해, 자사를 건전한 교육·생산성 도구로 규정짓고 규제의 칼날을 영리하게 피하려는 셈입니다.

하지만 위험 요소는 여전합니다. 알고리즘 기반 연령 추정은 완벽할 수 없으며, 위험 신호를 감지하기 위해 대화 기록과 메모리 기능을 유지하는 행위는 청소년의 프라이버시 침해 논란과 필연적으로 충돌할 수밖에 없습니다.