오픈AI, 아동 성착취물 차단 대책 발표…신종 악용 패턴 공개
오픈AI가 자사 모델을 악용한 아동 성착취물(CSAM) 차단 조치와 새로운 악용 수법을 공개했다. 톤(Thorn)의 해시 매칭 및 분류 기술을 활용해 유해 업로드를 걸러내고 적발 시 NCMEC 신고와 계정 차단을 진행한다. 창작 스토리로 규제를 우회하려는 시도 등을 공유하며 법적 지원도 촉구했다.
오픈AI가 자사 모델을 악용한 아동 성착취물(CSAM) 차단 조치와 새로운 악용 수법을 공개했다. 톤(Thorn)의 해시 매칭 및 분류 기술을 활용해 유해 업로드를 걸러내고 적발 시 NCMEC 신고와 계정 차단을 진행한다. 창작 스토리로 규제를 우회하려는 시도 등을 공유하며 법적 지원도 촉구했다.