오픈AI, 아동 성착취물 차단 대책 발표…신종 악용 패턴 공개
오픈AI가 자사 모델을 악용한 아동 성착취물(CSAM) 차단 조치와 새로운 악용 수법을 공개했다. 톤(Thorn)의 해시 매칭 및 분류 기술을 활용해 유해 업로드를 걸러내고 적발 시 NCMEC 신고와 계정 차단을 진행한다. 창작 스토리로 규제를 우회하려는 시도 등을 공유하며 법적 지원도 촉구했다.
Thorn
OpenAI와 빅테크 기업들, 아동 안전 위한 '안전 설계 원칙' 공동 채택
OpenAI는 비영리단체 쏜(Thorn) 및 구글, 메타, MS 등과 손잡고 생성형 AI '안전 설계' 원칙을 채택했다고 밝혔다. 모델 학습부터 배포 전 과정에서 아동 성착취물(CSAM) 생성을 선제적으로 차단하고, 매년 이행 경과를 공개할 계획이다.