AI 무단 학습 망치는 '데이터 독' 도구 나이트셰이드 정식 배포

나이트셰이드(Nightshade)는 시카고대학교 연구진이 개발한 무료 데스크톱 도구로, 창작자의 디지털 그림을 무단 스크래핑해 학습하는 이미지 생성 AI에 '데이터 독'을 주입할 수 있게 해준다.

작동 원리는 AI의 메커니즘을 역으로 이용하는 방식이다. 파이토치(PyTorch) 기반으로 이미지 속 객체를 분석한 뒤, 사람 눈에는 띄지 않는 미세한 픽셀 수준의 변형을 가한다. 사람 눈에는 평화로운 초원의 소 그림으로 보이지만, AI는 이를 가죽 핸드백으로 인식하게 만든다.

무엇을 할 수 있나

약 1년 전 연구팀이 공개했던 글레이즈(Glaze)가 화풍 모방을 막는 방어용 도구였다면, 나이트셰이드는 명백한 공격용 도구다.

AI 모델이 나이트셰이드로 처리된 이미지를 대량으로 학습하면 모델 전체의 개념 체계가 망가진다. 이후 사용자가 '우주를 날아가는 소'를 그려달라고 프롬프트를 입력해도 모델은 우주에 떠 있는 핸드백을 생성하게 된다. 연구진은 단 100장 미만의 오염된 샘플만으로도 모델의 특정 개념 인식을 무너뜨리기에 충분할 수 있다고 설명한다.

방해 효과의 지속력도 강력하다. 일반적인 디지털 워터마크처럼 취약하지 않아서 이미지를 자르거나, 리샘플링하거나, 압축하거나, 노이즈를 섞어도 독성은 그대로 남는다. 화면을 캡처하거나 모니터를 카메라로 직접 촬영한 이미지에서도 변형 효과가 유지된다.

개발진은 나이트셰이드로 먼저 이미지를 처리한 뒤 글레이즈를 함께 적용하는 방식을 권장하고 있으며, 향후 두 도구를 하나로 합친 통합 프로그램도 내놓을 예정이다.

요구 사양과 사용 방법

나이트셰이드 v1.0은 맥과 윈도우 환경에서 모두 로컬로 구동된다.

맥 환경은 M1, M2, M3 등 애플 실리콘 칩이 탑재된 기기가 필요하며 설치 용량은 약 255MB로 CPU 연산만 지원한다. 윈도우는 윈도우 10 또는 11 환경을 요구하며, 설치 파일 크기는 약 2.6GB로 지원 대상인 엔비디아 GPU 가속을 활용할 수 있다.

프로그램을 처음 실행할 때 머신러닝 라이브러리 리소스를 내려받기 위해 인터넷 연결과 약 4GB의 여유 저장 공간이 필요하다. 기존에 글레이즈를 설치해 둔 사용자라면 리소스 파일을 공유할 수 있어 대용량 추가 다운로드를 건너뛸 수 있다.

공개 직후 사용자가 몰리면서 다운로드에 최대 8시간이 걸렸다는 반응도 나왔다. 또한 라이선스 조항에 따라 소스코드 수정이나 상업적 재배포는 엄격히 금지된다.

왜 중요한가

온라인에 작품을 꾸준히 공개해야 하는 일러스트레이터와 원화가라면 나이트셰이드는 지금 당장 작업 흐름에 포함할 가치가 충분하다. 관람객에게 보이는 시각적 완성도는 그대로 유지하면서 무단 크롤러에게만 치명적인 지뢰를 심을 수 있고, 클라우드 업로드 없이 내 PC에서 무료로 작동한다.

일각에서는 이를 두고 AI 기업을 향한 사이버 공격이라는 비판도 제기한다. 하지만 연구진의 의도는 모델을 파괴하는 것이 아니라 무단 수집의 정제 비용을 천문학적으로 끌어올리는 데 있다. 훔쳐 쓴 데이터의 대가가 너무 커질 때, 기업이 창작자에게 정당한 라이선스 비용을 지불하게 만드는 현실적인 협상 카드가 되는 셈이다.