Anthropic·스포티파이, AI 투명성 강화: 텍스트 워터마크 및 가상 아티스트 배지 도입

지금 듣고 있는 노래가 실제 인간이 만든 것인지 AI가 생성한 것인지 구분할 수 있을까요? 음악 스트리밍 플랫폼 디저(Deezer)의 연구에 따르면, 리스너의 무려 97%가 인간의 음악과 AI 생성 음악을 구분하지 못하는 것으로 나타났습니다.

육안과 귀로 판별하는 것이 불가능해지자, 기술 기업들이 콘텐츠의 출처를 밝히기 위해 일제히 방어선 구축에 나섰습니다.

복사해서 붙여넣어도 따라가는 워터마크

가장 발 빠르게 움직인 곳은 앤트로픽(Anthropic)입니다. 앤트로픽은 EU 인공지능법(EU AI Act)의 투명성 규정을 준수하기 위해 클로드(Claude)가 생성하는 모든 텍스트와 파일에 워터마크를 적용하기 시작했습니다. 오픈AI, 마이크로소프트, 구글, 코히어, 메타, 신시시아 등도 규정 준수를 약속한 상태입니다.

앤트로픽의 지원 페이지에 따르면, 8월 2일 이후 출시된 모든 모델은 생성하거나 편집한 텍스트 및 파일에 자동으로 워터마크를 삽입합니다. 파일에는 C2PA 개방형 표준이 사용됩니다.

주목할 점은 다음 단계입니다. 앤트로픽은 기존 구형 모델로 워터마크를 확대 적용하는 것은 물론, 사용자가 텍스트를 복사하여 다른 곳에 붙여넣더라도 워터마크가 유지되는 시스템을 구축할 계획입니다. 이 표준은 클로드 코드(Claude Code), 클로드 코워크(Claude Cowork), 클로드 태그(Claude Tag) 등 앤트로픽의 제품군 전반에 적용됩니다.

비인간 아티스트를 추천에서 배제하는 플랫폼들

파운데이션 모델 개발사뿐만 아니라 콘텐츠 유통 플랫폼들도 대응에 나섰습니다.

스포티파이(Spotify)는 실제 인물이 아닌 아티스트를 식별하기 위한 AI 페르소나(AI Personas) 배지를 도입한다고 발표했습니다. 자진 신고한 아티스트는 물론 미신고 계정도 시스템이 식별하여 배지를 붙입니다. 특히 사용자가 직접 해당 계정을 팔로우하지 않는 한, 스포티파이의 알고리즘 추천 피드에서 이들을 완전히 제외하기로 했습니다.

AI 음악 생성 서비스 수노(Suno) 역시 워터마킹 및 핑거프린팅 기술을 도입하고 다운로드 정책을 수정해 스팸과 어뷰징 방지에 나섰습니다. 뉴스레터 플랫폼 서브스택(Substack)은 AI 탐지 도구인 팬그램(Pangram)을 연동해 게시글 중 얼마만큼이 AI로 작성되었는지 독자가 직접 확인할 수 있게 했습니다.

왜 중요한가

이번 조치들은 생성 속도와 성능 경쟁에만 매달리던 AI 생태계가 진위 확인과 유통 투명성이라는 현실적 숙제를 본격적으로 마주했음을 보여줍니다.

창작자들에게는 꽤나 고무적인 변화입니다. 특히 스포티파이가 AI 아티스트를 알고리즘 추천에서 배제하기로 한 결정은 대량 생산된 AI 음원이 인간 음악인의 생계를 위협하는 사태를 막는 실질적인 방파제가 될 수 있습니다. 서브스택이나 클로드의 도구를 활용하는 이용자 입장에서도 날것의 AI 생성물을 그대로 복제해 유통하는 방식의 입지는 갈수록 좁아질 것입니다.

하지만 기술적 차단이 완벽한 해결책이 될 수 있을지는 의문입니다. 이는 사이버 보안과 같아서, 플랫폼이 10피트 높이의 벽을 쌓으면 악의적인 이용자는 12피트 높이의 사다리를 들고 나타나기 마련입니다. 텍스트 워터마크의 경우 오픈소스 로컬 모델을 통해 살짝 문장 구조만 바꿔도 쉽게 우회될 수 있습니다.

결국 플랫폼 차원의 유통 제재와 워터마크 기술이 결합한 현 방식이 가장 현실적인 대안으로 보입니다. 관건은 대중의 수용성입니다. 지금은 속임수에 대한 반발이 크지만, 생성 퀄리티가 인간 수준을 넘어섰을 때 이용자들이 콘텐츠의 출처에 계속해서 신경을 쓸 것인지는 여전히 미지수입니다.