로블록스, 아동 보호 AI '센티넬' 오픈소스 공개…일 60억 건 채팅 감시
로블록스가 그루밍 등 아동 위해 대화를 탐지하는 AI 모델 '센티넬(Sentinel)'을 오픈소스로 공개했다. 매일 60억 건 이상의 채팅을 실시간 분석하며, 2025년 들어 1200건의 착취 의심 사례를 적발했다. 상반기 탐지 건수의 35%는 신고 접수 전에 선제적으로 잡아냈다.
로블록스가 그루밍 등 아동 위해 대화를 탐지하는 AI 모델 '센티넬(Sentinel)'을 오픈소스로 공개했다. 매일 60억 건 이상의 채팅을 실시간 분석하며, 2025년 들어 1200건의 착취 의심 사례를 적발했다. 상반기 탐지 건수의 35%는 신고 접수 전에 선제적으로 잡아냈다.