인스타그램, AI로 청소년 찾아내 '청소년 계정'으로 자동 전환하는 조치 확대

소셜 미디어에 가입할 때 나이를 몇 살 올려 적는 일은 십 대들 사이에서 공공연한 비밀이었습니다.

하지만 인스타그램에서는 이런 꼼수가 더 이상 통하지 않을 것으로 보입니다. 9월 22일, 메타는 AI 기술을 활용해 청소년으로 의심되는 계정을 찾아내고, 이들을 보호 설정인 틴 어카운트(Teen Accounts)로 강제 전환하는 테스트를 영국, 캐나다, 호주로 확대한다고 밝혔습니다.

지난 미국 내 시범 도입에 이은 조치로, 프로필에 성인 생년월일을 적어 두었더라도 AI가 18세 미만으로 판단하면 자동으로 보호 조치가 적용됩니다.

가짜 생년월일 적어도 AI가 십 대 감지

이 시스템의 핵심은 이용자가 입력한 정보에만 의존하지 않고 AI가 실제 연령대를 추정한다는 점입니다. 청소년 의심 계정으로 분류되면 접촉 가능한 사람의 범위와 노출되는 콘텐츠가 즉시 제한됩니다.

최근 추가된 보호 조치에 따라 해당 계정은 라이브 방송을 진행할 수 없으며, 다이렉트 메시지(DM)에서 유해한 이미지를 가려주는 보호 기능을 임의로 해제하는 것도 불가능해집니다.

16세 미만 이용자가 보호 설정을 성인 모드로 바꾸려면 반드시 부모나 보호자의 승인을 받아야 합니다. 다만 시스템 오류로 실제 성인이 청소년 계정으로 잘못 분류된 경우를 대비해, 설정을 다시 변경할 수 있는 이의 제기 절차도 마련해 두었습니다.

메타는 이번 조치와 함께 영국, 캐나다, 호주의 부모들에게 올바른 나이 등록에 관해 자녀와 대화하는 방법을 안내하는 알림도 발송하기 시작했습니다. 소아 심리학자인 앤루이즈 로크하트(Ann-Louise Lockhart) 박사 등 전문가의 조언을 담아 대화 팁을 제공합니다.

공개된 수치에 따르면 현재 전 세계에서 최소 5,400만 명의 청소년이 틴 어카운트에 등록되어 있습니다. 특히 13세에서 15세 사이 청소년의 97%는 이러한 보호 환경을 굳이 해제하지 않고 유지하고 있는 것으로 나타났습니다.

왜 중요한가

학부모 입장에서는 자녀의 온라인 활동을 일일이 감시해야 하는 심리적, 물리적 부담을 크게 덜 수 있습니다. 플랫폼이 알고리즘 차원에서 1차 방어선을 구축해 주기 때문에, 위험한 DM이나 부적절한 게시물에 자녀가 무방비로 노출되는 상황을 막아줍니다.

소셜 플랫폼 업계 전반에도 상당한 파장을 줄 것으로 보입니다. 그동안 많은 플랫폼이 이용자의 단순 생년월일 입력을 핑계 삼아 연령 인증 책임을 회피해 왔지만, 메타가 행동 기반 AI 판별을 본격화하면서 틱톡이나 스냅챗 같은 경쟁사들도 규제 당국으로부터 비슷한 수준의 대응을 요구받을 가능성이 커졌습니다.

개인 신분증 제출을 강제하지 않으면서 프라이버시 반발을 피해 간 접근 방식은 영리해 보입니다. 다만 AI 추정의 오탐률이 얼마나 되는지 명확히 공개되지 않은 상태에서, 실제 성인 이용자가 청소년으로 잘못 묶여 이용에 제약을 받는 사례가 발생했을 때 고객 지원이 얼마나 원활하게 처리될지는 지켜볼 필요가 있습니다.