챗GPT 새 모델 텍스트에 투명 워터마크 논란…OpenAI "강화학습 특성일 뿐"

ChatGPT가 써준 글을 그대로 복사해 과제로 제출해 온 사람이라면, 텍스트 뒤에 무엇이 숨어 있는지 살펴볼 필요가 있습니다.

학습 도구 개발사인 루미(Rumi) 팀은 최근 오픈AI의 최신 모델인 GPT-o3와 o4-mini가 생성한 긴 텍스트에서 육안으로는 식별할 수 없는 특수 유니코드 문자가 포함되어 있다는 사실을 확인했습니다.

눈에 보이지 않는 '유령 공백'의 발견

루미 팀이 미국 교육부에 관한 에세이를 GPT-o3에 작성하도록 요청한 뒤, 결과물을 서브라임 텍스트 같은 코드 편집기나 특수 문자 확인 도구에 붙여넣자 숨겨진 표식이 드러났습니다.

문장 사이에 삽입된 글자는 유니코드 U+202F로 지정된 '좁은 줄바꿈 방지 공백(Narrow No-Break Space)'이었습니다. 일반적인 워드프로세서나 웹 브라우저에서는 보통의 띄어쓰기 공백과 완전히 똑같이 보여 사람이 눈으로 구분하기는 불가능합니다.

이 특수 공백은 구글 닥스 같은 외부 편집기로 복사해 붙여넣어도 그대로 유지되었습니다. 기존 GPT-4o 모델에서는 나타나지 않고 o3와 o4-mini 모델의 긴 답변에서만 규칙적으로 발견되면서, 오픈AI가 AI 표절을 적발하기 위해 보이지 않는 워터마크를 도입한 것 아니냐는 추측이 급속도로 퍼졌습니다.

일반인이 글을 쓰면서 키보드로 U+202F 문자를 입력할 확률은 사실상 없기 때문에, 오탐률이 높은 기존 AI 탐지기보다 훨씬 확실한 적발 도구가 될 수 있다는 평가도 나왔습니다.

오픈AI "워터마크 아닌 강화학습의 기벽"

하지만 오픈AI는 루미 측에 공식 입장을 전달하며 워터마크 도입설을 부인했습니다.

오픈AI 관계자는 해당 특수 문자가 의도된 워터마크가 아니며, 단순히 대규모 강화학습 과정에서 나타난 일종의 '기벽(quirk)'일 뿐이라고 해명했습니다. 모델이 사후 학습을 거치면서 우연히 익힌 비정상적인 출력 습관이라는 설명입니다.

실제로 루미 팀이 4월 23일 추가 테스트를 진행했을 때는 해당 특수 문자가 더 이상 나타나지 않아, 오픈AI 측이 백엔드에서 문제를 조용히 수정한 것으로 확인되었습니다.

설령 이것이 실제 워터마크였다 하더라도 한계는 명확했습니다. 메모장이나 편집기에서 '찾아서 바꾸기' 기능으로 특수 공백을 일반 공백으로 한 번만 변환하면 흔적이 흔적도 없이 사라지기 때문입니다.

왜 중요한가

이번 해프닝이 업계의 큰 관심을 끈 이유는 발생 시점이 절묘했기 때문입니다. 오픈AI는 당시 5월 말까지 학생들에게 ChatGPT를 무료로 개방하고 있었으며, 이는 각 대학의 기말 과제 제출 기간과 정확히 겹쳤습니다.

만약 교육 기관이 이 특수 문자를 바탕으로 과제를 검사했다면, AI 출력을 그대로 긁어 붙인 학생들은 징계를 받고 검색 및 치환 방법을 아는 학생들은 제재를 피하는 기형적인 상황이 벌어질 수 있었습니다.

학계를 넘어 AI 기업 간의 데이터 방어전 관점에서도 시사하는 바가 큽니다. 딥시크(DeepSeek) 등 경쟁사들이 오픈AI 모델의 결과물을 가져다 모델 학습에 활용한다는 의혹이 끊이지 않는 상황에서, 텍스트 워터마킹은 무단 증류를 입증할 핵심 무기로 꼽혀 왔습니다.

우리는 이번 사례를 통해 텍스트 수준에서 보이지 않는 문자를 심어 AI 결과물을 추적하려는 시도가 얼마나 취약한지 다시 한번 드러났다고 봅니다. 텍스트 정제 스크립트나 간단한 포맷 변환만으로도 무력화되기 때문입니다.

결국 교육 현장이나 기업이 AI 무단 사용을 통제하기 위해서는 완성된 텍스트에서 흔적을 찾는 기술적 함정에 매달리기보다, 작성 과정의 이력 추적이나 구두 평가 같은 프로세스 중심 평가로 전환하는 것이 현실적인 대안으로 보입니다.