대학생이 만든 'GPTZero', 과제 쓴 범인이 ChatGPT인지 잡아낸다

학생들이 챗GPT로 영작 과제를 날로 먹을 방법을 궁리하는 사이, 프린스턴 대학교의 한 학부생이 이를 족집게처럼 잡아내는 도구를 만들어냈습니다.

컴퓨터공학을 전공하는 22세의 에드워드 티안(Edward Tian)은 겨울방학 동안 며칠 만에 'GPTZero'라는 웹 앱을 개발했습니다. 글을 입력하면 이 글이 사람이 쓴 것인지, 아니면 챗GPT가 지어낸 것인지 신속하게 판별해 주는 도구입니다.

기계를 잡아내는 두 가지 기준: 당혹도와 폭발성

2022년 11월 30일 오픈AI가 챗GPT를 공개한 지 불과 닷새 만에 100만 명이 넘는 사용자가 몰렸습니다. 셰익스피어 말투를 흉내 내는 것은 물론, 뉴요커 칼럼 스타일의 에세이도 그럴듯하게 써냈습니다. 월스트리트저널의 한 기자는 챗GPT의 도움을 받아 AP 영어 시험을 통과하기도 했습니다.

교육계는 곧바로 발칵 뒤집혔습니다. 뉴욕시 공립학교는 교내 기기와 네트워크에서 챗GPT 접속을 차단했고, 주요 AI 학술대회에서도 AI가 전적으로 작성한 논문 제출을 금지했습니다.

티안이 만든 GPTZero는 두 가지 척도를 바탕으로 글을 분석합니다. 바로 '당혹도(Perplexity)'와 '폭발성(Burstiness)'입니다.

당혹도는 문장 내 단어 선택의 무작위성을 뜻합니다. AI는 다음에 올 확률이 가장 높은 단어를 고르기 때문에 당혹도 점수가 낮게 나오는 반면, 인간의 문장은 훨씬 더 의외성을 띱니다.

폭발성은 문장 간의 호흡과 변화를 측정합니다. AI가 생성한 글은 문장마다 복잡성과 길이가 대체로 균일하지만, 사람은 길고 복잡한 만연체 뒤에 짤막한 단문을 툭 던지는 식으로 리듬감의 편차가 큽니다.

버즈피드(BuzzFeed) 기자가 챗GPT로 작성한 햄릿 주제 요약문을 넣었을 때 당혹도 10, 폭발성 19를 기록하며 즉시 AI 생성물로 분류되었습니다. 반면 기자가 직접 쓴 기사 도입부는 폭발성이 387까지 치솟으며 인간의 글로 정상 판정되었습니다.

쏟아진 트래픽, 교사들의 환호와 학생들의 반발

반응은 폭발적이었습니다. 티안이 트위터에 데모 영상을 올리자 스위스, 프랑스 등 전 세계 교육자들로부터 감사 메시지가 쇄도했습니다.

1만 명이 넘는 사용자가 몰리면서 스트림릿(Streamlit) 기반의 테스트 버전과 공식 웹사이트가 트래픽을 견디지 못하고 마비되기도 했습니다. 벤처캐피털(VC)들의 투자 문의도 쏟아졌습니다.

하지만 인터넷 반응은 엇갈렸습니다. 교사들이 안도의 한숨을 쉰 반면, 일부 학생들은 티안을 '고자질쟁이(narc)'라 부르며 비난했습니다. 판별이 항상 완벽한 것은 아니어서 일부 AI 문장을 놓쳤다는 피드백도 나왔으며, 티안은 오탐률을 줄이기 위한 모델 업데이트를 배포했습니다. 그는 일단 교사들을 위해 이 툴을 무료로 유지할 계획입니다.

왜 중요한가

GPTZero의 돌풍은 초거대 생성 AI가 가져온 윤리적 공백을 상징적으로 보여줍니다.

오픈AI는 작년 12월 텍스트 워터마크 기술 도입을 언급했지만 정작 상용화하지 못했고, 그 사이 현장 교사들의 방패막이가 되어준 것은 일개 대학생이 방학 때 뚝딱 만든 프로토타입이었습니다. 의심스러운 과제를 1차로 걸러내야 하는 교사들에게는 당장 써볼 만한 유용한 도구입니다.

하지만 우리는 이런 통계적 탐지 도구를 부정행위 적발의 절대적 기준으로 삼는 데는 심각한 위험이 따른다고 봅니다. 프롬프트를 정교하게 다듬거나 인간이 단어 몇 개만 수정해도 당혹도와 폭발성 수치는 쉽게 조작될 수 있습니다. 오탐으로 인해 무고한 학생이 누명을 쓸 가능성도 배제할 수 없습니다.

결국 학교 네트워크를 막고 탐지 소프트웨어로 검열하는 것은 임시방편일 뿐입니다. 에드워드 티안 본인의 말대로 AI 글쓰기는 앞으로 더 정교해질 것이며 막을 수 없는 흐름입니다. 학생을 잡는 기술에 매달리기보다, AI라는 새로운 계산기를 쥔 학생들에게 어떤 새로운 글쓰기와 사고력을 가르칠 것인지 교육의 룰을 새로 짜야 할 때입니다.