ChatGPT 거짓 시인에 속은 美 교수, 학생 과반에 0점 줬다 낭패

부정행위를 잡겠다며 AI에게 직접 물어보는 것은 가장 엉뚱한 방법입니다. 그런데 미국의 한 대학교수가 실제로 이런 방식을 썼다가 졸업을 앞둔 학생들의 학위를 무더기로 보류시키는 촌극이 벌어졌습니다.

텍사스 A&M 대학교 커머스 캠퍼스에서 졸업식을 이미 마친 농학 전공 4학년 학생 다수가 졸업장을 받지 못하는 처지에 놓였습니다. 수업을 담당한 재러드 멈(Jared Mumm) 교수가 학생들의 기말 에세이를 두고 ChatGPT가 대필했다고 판단해 낙제점을 줬기 때문입니다.

교수의 검증 방식은 단순했습니다. 학생들의 과제물을 ChatGPT에 복사해 넣은 뒤, 봇에게 직접 이 글을 작성했는지 물어본 것입니다. 그리고 챗봇은 태연하게 자신이 썼다고 답했습니다.

교수 본인의 박사 논문도 "내가 썼다"는 ChatGPT

이 사건은 약혼녀가 억울하게 피해를 보았다는 레딧 이용자 'DearKick'의 폭로로 알려졌습니다. 멈 교수는 학생들에게 보낸 이메일에서 프로그램 이름조차 'Chat GTP'로 잘못 적은 채, 과제물을 두 차례 봇에 돌려 모두 봇이 썼다고 인정한 과제에는 예외 없이 0점을 매겼다고 통보했습니다.

AI를 쓴 적이 없는 학생들은 억울함을 호소하며 작성 시간과 수정 내역이 고스란히 기록된 구글 닥스 타임스탬프를 보냈습니다. 하지만 교수는 이를 무시한 채 채점 시스템에 "AI가 쓴 헛소리는 채점하지 않는다"는 메모만 남겼습니다.

이 소식이 알려지자 인터넷 이용자들은 조롱 섞인 검증에 나섰습니다. 한 네티즌이 멈 교수의 과거 돼지 사육 관련 박사 학위 논문 초록을 가져와 ChatGPT에 입력하자, 봇은 "해당 문장은 AI가 생성한 전형적인 특징을 가지고 있다"며 자신이 썼을 가능성을 인정했습니다. 심지어 교수가 학생들을 질책하며 보낸 이메일을 넣었을 때도 봇은 "내가 쓴 글이 맞다"고 답했습니다.

생성형 AI는 감별기가 아니다

근본적인 원인은 ChatGPT의 작동 원리에 대한 무지에서 비롯됐습니다. 이 모델은 AI 생성 여부를 판별하도록 설계되지 않았으며, 과거에 자기가 생성한 글을 기억하는 데이터베이스도 없습니다. 약간의 유도 질문만 주어지면 고전 소설인 '죄와 벌'도 자기가 썼다고 주장하는 수준입니다.

Winston AI나 Content at Scale 같은 전문 AI 탐지 도구가 따로 존재하지만, 심지어 OpenAI가 자체 개발한 판별 도구조차 정확도가 낮아 신뢰를 얻지 못하는 실정입니다. 단순한 대화형 언어 모델을 거짓말 탐지기처럼 사용한 것 자체가 심각한 오류였습니다.

논란이 걷잡을 수 없이 커지자 대학 본부는 진화에 나섰습니다. 학교 측은 공식 성명을 통해 실제로 낙제 처리를 받거나 졸업이 영구 금지된 학생은 없으며, 이번 사태를 조사하는 동시에 강의실 내 AI 사용 가이드라인을 마련하고 있다고 밝혔습니다.

왜 중요한가

단순한 해프닝으로 보이지만, 생성형 AI 시대를 살아가는 모든 창작자와 지식 노동자에게 뼈아픈 시사점을 던집니다.

앞으로 학생이나 직장인은 작업 과정의 기록을 남기는 것이 필수가 되었습니다. 기술을 잘 모르는 관리자나 교수가 자의적인 의심을 품었을 때, 스스로 결백을 입증하려면 타임스탬프가 찍힌 문서 히스토리를 증거로 제시해야 하는 시대가 온 셈입니다.

우리는 이번 사건이 교육계가 겪고 있는 기술에 대한 무지와 막연한 공포를 적나라하게 보여줬다고 생각합니다. 대규모 언어 모델은 그저 그럴듯한 다음 단어를 예측하는 확률 모델일 뿐, 진실을 가려내는 검증 장치가 아닙니다. 하지만 명확한 가이드라인이 부재하자 일선 교육자가 엉뚱한 방식으로 도구를 오용해 무고한 피해자를 만들었습니다.

기관과 기업이 과학적이고 객관적인 검증 기준을 서둘러 정립하지 않는다면, 엉뚱한 마녀사냥과 상호 불신으로 인한 사회적 비용은 앞으로 걷잡을 수 없이 커질 것입니다.