캐릭터닷에이아이, 부모에게 자녀의 챗봇 대화 시간·상대 알리는 기능 도입

자녀가 스마트폰을 붙잡고 가상의 챗봇과 온종일 대화를 나누고 있다면 보호자 입장에서는 불안할 수밖에 없습니다. 청소년 사이에서 인기가 높은 캐릭터닷에이아이(Character.ai)가 부모들을 달래기 위한 안전장치를 내놓았습니다.

캐릭터닷에이아이는 10대 이용자의 챗봇 사용 통계를 부모의 이메일로 매주 전송해 주는 '학부모 인사이트(Parental Insights)' 기능을 추가했습니다.

대화 내용은 비밀, 누구와 얼마나 대화했는지만 공유

이 기능을 쓰기 위해 부모가 따로 계정을 만들 필요는 없습니다. 미성년자 이용자가 자신의 설정 화면에서 부모의 이메일을 등록하면 주간 리포트가 발송되는 구조입니다.

리포트에는 모바일과 웹을 합친 하루 평균 이용 시간, 가장 자주 대화한 캐릭터 목록, 각 캐릭터와 대화하는 데 쓴 시간이 담깁니다.

다만 구체적인 대화 내용은 부모에게 공개되지 않습니다. 회사 측은 전체 기록을 감시하는 도구가 아니라 개괄적인 활동 요약본일 뿐이라며 청소년의 사생활을 선별적으로 보호한다고 밝혔습니다. 현재 이 플랫폼은 대부분의 국가에서 13세 미만, 유럽에서는 16세 미만 아동의 가입을 제한하고 있습니다.

소송과 앱스토어 경고가 부른 안전장치

이번 조치는 최근 잇따른 소송과 규제 압박 속에서 나왔습니다. 캐릭터닷에이아이는 자유롭게 봇을 만들 수 있는 점 덕분에 인기를 끌었지만, 미성년자에게 성적으로 부적절한 콘텐츠나 자해를 조장하는 답변을 내놓았다는 이유로 여러 건의 소송에 휘말렸습니다.

애플과 구글로부터 앱 콘텐츠에 대한 경고를 받기도 했습니다. 참고로 구글은 지난해 캐릭터닷에이아이의 창업자들을 영입한 바 있습니다.

논란이 커지자 회사는 18세 미만 이용자를 민감한 출력을 피하도록 훈련된 별도 모델로 이동시키고, 봇이 실제 인간이 아니라는 경고 알림을 눈에 띄게 배치하는 등 시스템을 손봐 왔습니다.

왜 중요한가

저희가 보기에 이번 기능은 청소년의 프라이버시와 부모의 감시 요구 사이에서 영리하게 타협을 시도한 결과물이지만, 실질적인 보호 효과에는 한계가 뚜렷해 보입니다.

학부모 입장에서는 자녀가 어떤 성향의 가상 캐릭터에 과도하게 몰입하고 있는지 사용 시간으로 위험 신호를 감지할 수 있습니다. 하지만 이 기능은 청소년이 '직접 자발적으로 켜야' 작동합니다. 부모 몰래 민감한 대화를 나누는 청소년이 자진해서 부모 이메일을 입력할 가능성은 매우 낮습니다.

업계 전체로 보면 생성형 AI 기반의 친구·연인 서비스에 대한 규제 수위가 본격적으로 높아지고 있음을 보여줍니다. 앱 마켓을 쥔 애플과 구글의 압박은 물론 아동 안전 법안이 세계 곳곳에서 발의되면서, AI 기업들은 미성년자 보호 대책을 필수로 갖춰야 하는 처지가 됐습니다.

결국 이번 조치는 규제 기관과 앱스토어의 제재를 피하기 위한 방어선 구축에 가깝습니다. 하지만 이용자들의 불안과 법적 공방을 잠재우기에는 여전히 부족해 보이며, 회사가 져야 할 책임의 무게는 앞으로 더 커질 것으로 보입니다.