AI 무단 학습 망치는 '데이터 독' 도구 나이트셰이드 정식 배포
시카고대 연구진이 AI 무단 학습을 방해하는 무료 도구 '나이트셰이드 v1.0'을 공식 배포했다. 사람 눈에는 평범한 소 그림이지만 AI는 가방으로 인식하도록 픽셀을 미세하게 왜곡한다. 개발진은 모델 파괴가 아니라 무단 크롤링 비용을 높여 정당한 데이터 라이선스를 유도하는 것이 목적이라고 설명했다.
Nightshade
예술가들의 AI 무단 학습 반격, 시카고대 '나이트셰이드' 공개
시카고대 연구진이 데이터 오염 툴 '나이트셰이드(Nightshade)'를 발표했다. 이미지를 온라인에 올리기 전 육안으로 보이지 않는 픽셀 변조를 가해, AI가 무단 수집해 학습할 경우 개를 고양이로 인식하는 등 모델을 망가뜨린다. 연구진은 저작권 침해 억제책으로 이를 오픈소스로 공개할 예정이다.