어도비 '콘텐츠 분석' 기본 활성화 논란: 생성형 AI 학습은 부인

오픈소스 그래픽 툴 Krita의 한 개발자가 Adobe Creative Cloud 계정 설정을 살펴보던 중 석연치 않은 설정을 발견했습니다. Adobe가 모든 사용자를 '콘텐츠 분석' 프로그램에 기본값으로 동의 처리해 둔 것입니다.

해당 약관에는 제품 및 서비스를 개선하기 위해 머신러닝 등의 기술로 사용자 콘텐츠를 분석할 수 있다고 적혀 있었습니다. 이 사실이 알려지자 창작자들 사이에서는 자신들의 작업물이 몰래 AI 학습 데이터로 쓰이고 있는 것 아니냐는 불안감이 순식간에 번졌습니다.

Adobe는 외신을 통해 이 정책은 새로운 것이 아니며 이미 10년 전부터 시행되어 온 정책이라고 해명했습니다. 하지만 AI 학습에 대한 민감도가 극에 달한 지금, 사용자들이 이를 곧이곧대로 받아들이기는 어려웠습니다.

작업물이 AI 학습에 쓰이고 있는가

결론부터 말하면 알고리즘 학습에 쓰이고 있는 것은 맞지만, 사용자들이 생각하는 방식과는 다소 차이가 있습니다.

Adobe는 Creative Cloud 계정에 저장된 데이터를 '실험적 생성형 AI 기능'을 훈련하는 데 사용하지 않는다고 선을 그었습니다. 법적 방어막을 친 듯 매우 정교하게 다듬어진 문장입니다.

하지만 공식 문서를 자세히 들여다보면, 제품 개발을 위해 사용자 콘텐츠를 취합한 뒤 이 데이터를 사용해 '알고리즘을 훈련한다'고 분명히 밝히고 있습니다. Adobe의 설명에 따르면 이는 라이트룸에서 강아지나 고양이를 자동으로 인식해 태그를 달거나, 포토샵에서 투시도를 자동으로 보정하는 등의 편의 기능을 고도화하기 위한 목적입니다. 경우에 따라서는 사람에 의한 수동 검토가 진행되기도 합니다.

왜 중요한가

우리는 이번 논란의 본질이 기술 자체가 아니라 '기본 활성화'라는 은밀한 방식에 있다고 봅니다.

버그 리포트 같은 원격 측정 데이터 수집과 달리, 디자이너의 완성작이나 작업 파일을 머신러닝 학습에 활용하는 것은 차원이 다른 문제입니다. 대외비 프로젝트나 상업용 소스를 다루는 전문가들에게 작업물 분석 권한을 묻지도 않고 켜두었다는 점은 신뢰를 크게 떨어뜨립니다. 10년 동안 유지해 온 정책이라는 해명 역시 사용자들을 그동안 방치해 두었다는 반증에 불과합니다.

또한 '실험적 생성형 AI에는 쓰지 않는다'는 단서 조항은, 정식 출시된 생성형 기능이나 일반 알고리즘에는 작업물이 얼마든지 들어갈 수 있다는 의구심을 남깁니다.

Creative Cloud를 쓰고 있다면 지금 당장 계정 프라이버시 설정에 들어가 콘텐츠 분석 토글을 끄는 것을 권장합니다. AI 저작권 분쟁이 첨예한 시대에, 플랫폼이 모호한 약관 뒤에 숨어 사용자 데이터를 활용하려 드는 태도는 업계 전반에 큰 역풍을 불러올 수밖에 없습니다.