앤트로픽, 클로드에 비가시성 워터마크 도입: 텍스트엔 암호화 패턴·파일엔 C2PA 적용

인터넷에서 접한 매끄러운 글이 AI의 손을 거쳤는지 어떻게 확신할 수 있을까요?

앤트로픽이 그 해답을 내놓았습니다. 8월 2일 발효된 유럽연합(EU) 인공지능법의 투명성 조항을 준수하기 위해, 클로드가 생성하는 텍스트와 파일 전반에 기계 판독이 가능한 워터마크를 심기로 했습니다.

이에 따라 클로드가 작성한 글이나 파일은 겉보기에는 기존과 완전히 같지만, 시스템 내부적으로는 AI 생성물임을 증명하는 고유한 흔적을 남기게 됩니다.

글을 해치지 않고 워터마크를 심는 법

텍스트 워터마크라고 하면 흔히 눈에 보이지 않는 공백 문자나 특수 코드를 끼워 넣는 방식을 떠올리기 쉽습니다. 하지만 앤트로픽은 이번 기술이 숨겨진 문자를 전혀 쓰지 않으며, 추가 토큰 소모나 비용 발생도 없다고 밝혔습니다.

이 기법은 구글 딥마인드의 SynthID-Text 논문에서 소개된 원리를 차용했습니다. 대형언어모델이 단어를 고르는 확률 과정에 정교한 규칙을 심는 방식입니다.

모델이 글을 쓸 때 특정 맥락에서 '흐림'과 '잿빛'처럼 의미 차이가 크지 않은 유의어 후보군이 나오면, 평소에는 무작위 주사위를 굴려 단어를 택합니다.

클로드의 워터마크는 이 무작위 선택에 암호화 키 기반의 의사 난수 패턴을 적용합니다. 앤트로픽은 이를 '주사위 대신 원주율의 연속된 자릿수 숫자에 맞춰 말을 움직이는 부루마블 게임'에 빗댔습니다. 겉으로는 여전히 무작위처럼 보이지만, 검증 키를 가진 사람은 단어 선택의 규칙성을 분석해 클로드가 작성했을 확률을 수학적으로 계산해낼 수 있습니다.

블라인드 테스트 결과 글의 완성도, 창의성, 가독성에 아무런 영향이 없었으며 사람이 읽어서는 워터마크 유무를 전혀 구분할 수 없었다고 합니다.

전 세계 적용과 여전히 남은 허점

이 표시 기술은 유럽에만 국한되지 않고 전 세계 모든 서비스에 일괄 적용됩니다.

웹 버전 클로드, 클로드 코드, 클로드 코워크, 클로드 태그를 비롯해 AWS, 구글 클라우드, 마이크로소프트 파운드리를 통한 API 호출까지 모두 포함됩니다. 클로드 오퍼스 5.5, 소넷 5.5, 하이쿠 5.5 등 주력 모델에는 이미 적용됐고 이전 모델들로도 점차 지원을 넓히고 있습니다.

PNG, JPG 같은 생성 파일에는 업계 공개 표준인 C2PA 메타데이터가 첨부되어 무료 도구로 출처를 확인할 수 있습니다.

다만 텍스트 워터마크 탐지 API는 현재 비공개 프리뷰 상태로, 규제 기관, 수사 기관, 팩트체커, 연구 및 교육 기관 등 자격을 갖춘 곳에만 우선 제공됩니다.

한계도 명확합니다. 글이 너무 짧거나 다른 문장으로 패러프레이징 및 번역을 거치면 워터마크 신호가 급격히 약해집니다. 사람이 쓴 글을 클로드에 넣어 단순 교정만 맡겨도 AI 흔적이 남는 문제도 있습니다. 파일에 붙는 C2PA 메타데이터 역시 화면 캡처나 재저장 한 번이면 쉽게 지워집니다.

왜 중요한가

일반 독자와 창작 커뮤니티 입장에서 이번 조치는 반가운 소식입니다. 팬픽 플랫폼 AO3에서는 이용자들이 AI 텍스트를 잡아내려 조악한 탐지기를 직접 만들어왔고, 서브스택 CEO는 사람이 쓴 척 AI 글을 올리는 행태를 두고 '클로드피싱'이라 부르며 경계해왔습니다. 공식 표식이 생기면 무분별한 콘텐츠 범람을 가려내기 한결 수월해집니다. 다만 자신이 직접 쓴 초고를 클로드로 다듬기만 해도 AI 라벨이 붙을 수 있다는 점은 주의해야 합니다.

산업 측면에서는 EU의 규제가 글로벌 테크 기업들의 표준을 어떻게 강제하는지 잘 보여줍니다. 앤트로픽뿐 아니라 구글, 메타, 오픈AI, AI 음악 플랫폼 수노까지 투명성 규범에 동참했습니다. 앞으로 워터마크 미지원 모델은 기업 시장에서 설 자리를 잃을 가능성이 큽니다.

토큰 샘플링 단계에서 수학적 난수 패턴을 심어 글 품질을 지키면서도 복사·붙여넣기를 버텨내도록 만든 기술적 판단은 영리해 보입니다.

하지만 탐지 도구를 일반 대중에게 열어두지 않는다면 사용자에겐 여전히 깜깜이 기술에 불과합니다. 몇 번의 윤문으로도 신호가 흐려지는 현실적인 한계 탓에, 악의적인 텍스트 스팸을 원천 차단하는 방패가 되기에는 아직 갈 길이 멀어 보입니다.