AI 학습 데이터 라벨러의 최대 46%, ChatGPT로 작업 대행

인공지능을 똑똑하게 만들기 위해 사람에게 맡긴 데이터 라벨링 작업을, 정작 그 작업자들이 챗GPT에 하청을 주고 있다는 조사 결과가 나왔습니다.

스위스 로잔 연방공과대학교(EPFL) 연구진은 아마존 메커니컬 터크(Amazon Mechanical Turk) 같은 크라우드소싱 플랫폼에서 일하는 노동자 중 상당수가 AI 모델을 사용해 과제를 완료하고 있다는 내용의 연구를 공개했습니다.

키스트로크 추적으로 드러난 복사·붙여넣기

AI가 특정 작업을 안정적으로 수행하려면 정교하게 정제된 데이터가 대량으로 필요합니다. 많은 기업들이 텍스트 주석 달기나 요약처럼 자동화하기 까진 어려운 작업을 플랫폼 긱워커들에게 맡기지만, 단가가 매우 낮고 빠른 처리를 요구받는 구조입니다.

EPFL 연구진은 실제 얼마나 많은 작업자가 AI를 쓰는지 알아보기 위해 44명의 작업자를 고용해 16편의 의학 연구 논문 초록을 요약하게 했습니다.

연구진은 작업자의 키보드 입력을 분석해 외부에서 복사해 붙여넣었는지 확인하는 한편, 단어 다양성 부족 등 챗GPT 특유의 문체 특징을 감지하도록 자체 훈련한 AI 모델로 답변을 검증했습니다.

그 결과, 전체 작업자의 약 33%에서 46%가 챗GPT 같은 대형 언어 모델을 사용한 것으로 추정되었습니다. 연구진은 AI가 더 발전하고 접근하기 쉬워질수록 이 비율이 더 높아질 수밖에 없다고 지적했습니다.

AI 배설물을 다시 먹는 AI

이는 작업자의 단순한 부정행위를 넘어 AI 생태계 전반을 오염시키는 치명적인 문제입니다.

대형 언어 모델은 종종 거짓을 사실처럼 말하는 환각을 일으킵니다. 이런 오류가 포함된 데이터가 다시 차세대 모델 훈련에 사용되면 오류가 시스템 전체로 흡수되고 증폭되어 나중에는 출처조차 찾기 어려워집니다.

옥스퍼드 대학교 컴퓨터 과학 연구원인 일리아 슈마일로프(Ilia Shumailov)는 인공 데이터를 사용하면 모델의 잘못된 이해와 통계적 오류를 고스란히 물려받게 되며, 이를 쉽게 해결할 수 있는 방법은 없다고 경고했습니다.

왜 중요한가

이 연구는 빅테크가 저비용 노동에 기대어 구축해 온 데이터 공급망의 구조적 결함을 적나라하게 보여줍니다.

개발자와 기업 입장에서는 크라우드소싱 기반 데이터의 신뢰성을 근본적으로 다시 의심해 봐야 하는 시점입니다. 저렴한 단가로 모은 사람의 피드백 데이터셋이 사실상 챗GPT의 요약본이었다면, 이를 미세조정(Fine-tuning)한 모델 역시 같은 환각과 한계를 답습하게 됩니다.

결국 값싼 보상을 주면서 빠른 작업만 강요하는 시스템은 작업자에게 AI를 쓸 강력한 동기를 제공합니다. AI가 생성한 데이터로 AI를 학습시키는 '근친교배'식 품질 퇴화를 막으려면, 고품질 검증 비용을 지불하거나 확실한 인간 작업 인증 도구를 마련해야 합니다. 저비용 데이터 양산 시대는 끝나가고 있으며, 진짜 사람의 검증을 거친 데이터가 가장 비싼 자산이 되는 흐름으로 전환되고 있습니다.