xAI, 그록 API 출력에 '보이지 않는 워터마크' 도입…EU AI법 대응

생성형 AI가 만든 글에 표식을 남기기 위해 제로 너비 공백 같은 비가시 문자를 쓰던 방식은 메모장에 복사하거나 서식을 지우는 순간 쉽게 사라지는 한계가 있었습니다. xAI는 이 문제를 텍스트 표면이 아닌 모델 생성 단계에서 직접 해결하기로 했습니다.

xAI는 10월 31일, EU 인공지능법 준수를 위해 11월 7일부터 Grok 모델의 API 텍스트 출력에 비가시성 워터마크를 기본 적용한다고 발표했습니다. 전역 엔드포인트를 비롯한 모든 API에 적용됩니다.

적용 대상은 grok-4.7, grok-4.6, grok-4.5, grok-4.3을 비롯해 grok-4.20의 추론, 비추론, 멀티 에이전트 버전까지 포함합니다. 일반 텍스트 완성뿐 아니라 구조화된 출력과 도구 호출 인자에도 예외 없이 적용됩니다.

눈에 안 띄지만 통계로 식별하는 방식

이번 워터마크 기술의 핵심은 생성 결과물에 아무런 문자나 마크업을 덧붙이지 않는다는 점입니다. 모델이 텍스트를 생성할 때 토큰을 고르는 확률 분포를 아주 미세하게 조정해 고유한 통계적 패턴을 남깁니다.

xAI 측은 이 방식이 응답 품질이나 속도에 전혀 영향을 주지 않는다고 설명합니다. 개발자는 기존 코드를 수정할 필요가 없으며, 워터마크 적용 여부는 응답 헤더의 x-watermark 값이 true인지 확인하면 바로 알 수 있습니다.

판별은 통계적 점수 측정 방식으로 이뤄집니다. 텍스트를 대조 분석해 워터마크 포함, 미포함, 불확실의 세 가지 상태로 판정하며, 글의 길이가 길수록 더 뚜렷한 신호가 잡힙니다. 다만 현재 판별 API는 별도의 신청 폼을 통해서만 접근 권한을 제공합니다.

기능 해제 시 법적 책임은 고객 몫

워터마크는 기본으로 켜져 있지만, xAI 콘솔에서 팀 관리자가 모델별로 기능을 끌 수 있는 선택지를 열어두었습니다. 설정을 변경하면 5분 이내에 새 요청부터 반영됩니다.

하지만 해제 절차에는 엄격한 조건이 붙습니다. 관리자는 관련 법률상 예외 조항에 해당한다는 점을 직접 확인해야 하며, 생성물 표기 및 공개 의무에 대한 모든 법적 책임을 단독으로 부담한다는 데 동의해야 합니다. 모든 설정 변경 이력은 감사 로그에 영구 기록됩니다.

아울러 팀 정책이나 계약에 따라 특정 모델은 워터마크가 강제로 고정되어 콘솔에서 끌 수 없도록 잠겨 있을 수도 있습니다.

왜 중요한가

EU 인공지능법의 강력한 규제 요구 앞에서 xAI는 비교적 깔끔하고 실용적인 해법을 내놓았습니다. 토큰 선택 확률 자체에 패턴을 심는 방식은 개발자가 별도의 워터마킹 파이프라인을 구축하지 않아도 기본 규제를 통과할 수 있게 돕습니다.

주목할 만한 대목은 오프아웃(해제) 설계입니다. 기능을 끌 수 있게 허용하되 법적 확약과 감사 로그 추적을 필수로 묶어둠으로써, 플랫폼이 져야 할 규제 리스크를 기업 고객에게 영리하게 넘겼습니다. 유럽 시장을 겨냥하는 기업에겐 반가운 자동화지만, 정밀한 토큰 분포가 중요한 특수 도메인 개발자라면 신중한 검토가 필요합니다.

다만 이러한 통계적 워터마크 역시 완벽한 방패는 아닙니다. 출력된 텍스트가 지나치게 짧거나, 사용자가 문장을 대폭 고쳐 쓰거나 번역할 경우 탐지 신호가 급격히 흐려질 수밖에 없습니다. 규제 준수라는 급한 불은 껐지만, 텍스트 위변조와 출처 증명을 둘러싼 기술적 줄다리기는 계속될 것으로 보입니다.