MS, AI 딥페이크 성착취물 대응 강화…원드라이브·엑스박스로 감지 확대

동의 없이 유포되는 사적인 성적 촬영물(NCII)은 실제 사진이든 AI로 합성한 가짜든 피해자에게 막대한 고통을 줍니다. 하지만 정작 이를 신고하고 삭제를 요청하는 과정은 복잡하고 고통스러운 경우가 많았습니다.

마이크로소프트는 5월 27일, 이러한 비동의 사적 이미지 유포에 대응하기 위한 보안 대책을 자사 주요 소비자 서비스 전반으로 확대 적용한다고 밝혔습니다.

이번 조치는 실제 사진뿐 아니라 AI로 생성된 합성 이미지에도 동일한 규정을 적용하고, 탐지 및 삭제 체계를 실질적으로 강화한 것이 핵심입니다.

원드라이브와 엑스박스까지 탐지망 확대

마이크로소프트는 2년 전 피해 지원 플랫폼 StopNCII.org에 개량형 PhotoDNA 기술을 제공한 바 있습니다. 피해자가 자신의 기기 밖으로 원본 사진을 전송하지 않고도 고유한 디지털 지문(해시값)을 생성할 수 있도록 지원하는 방식입니다.

2024년 9월부터 빙(Bing) 검색에 이 해시값 기반 차단을 시범 도입했던 마이크로소프트는 이번에 적용 범위를 팀즈 무료 버전(Teams Free), 원드라이브(OneDrive), 엑스박스(Xbox)로 공식 확대했습니다.

검증된 해시값과 일치하는 콘텐츠가 발견되면 플랫폼 전반에서 보다 빠른 삭제 조치가 이뤄집니다. 신속성을 위해 자동화 시스템을 적용하면서도 오탐을 막기 위해 전문 인력 검토와 이의 신청 창구도 함께 유지합니다.

신고 양식도 직관적으로 개편했습니다. 실물 촬영물과 AI 생성물 구분 없이 피해 내용을 쉽게 기술할 수 있도록 해 피해자의 신고 부담을 덜었습니다. 아울러 영국 비영리단체 차일드넷(Childnet)과 협력해 청소년 대상 AI 오남용 예방 교육 자료를 제작했으며, 이는 영국을 비롯해 한국, 일본, 싱가포르 현지 파트너를 통해 공개되었습니다.

왜 중요한가

일반 사용자 입장에서 이번 조치의 가장 큰 가치는 2차 피해에 대한 공포 없이 삭제를 요청할 수 있다는 점입니다. 확인을 위해 민감한 사진을 외부 서버에 직접 업로드할 필요가 없고, 개인용 클라우드와 게임 콘솔 환경까지 보호막이 둘러쳐지면서 대응 문턱이 크게 낮아졌습니다.

산업 측면에서도 큰 변화를 예고합니다. 이번 달 미국에서 '테이크 잇 다운 법(Take It Down Act)'이 본격 시행되고, 유럽연합의 딥페이크 누드 앱 제재와 영국 오프콤(Ofcom)의 온라인안전법 강화 등 규제 압박이 거세지고 있습니다. 마이크로소프트가 AI 합성물을 실제 유출 사진과 완전히 동일한 수위로 처벌 및 차단하기로 못 박으면서, 다른 빅테크 클라우드 및 플랫폼 기업들도 자체 가이드라인을 끌어올릴 수밖에 없게 되었습니다.

다만 한계도 분명해 보입니다. 해시 기반 차단은 누군가 등록 절차를 밟은 알려진 이미지에만 즉각 반응합니다. 폐쇄적인 사적 채널에서 은밀히 생성되고 소비되는 맞춤형 AI 합성물은 피해자가 인지하기 전까지 시스템이 선제적으로 막기 어렵다는 숙제가 여전히 남아 있습니다.