영문 위키백과 지침 개정: AI 이용한 문서 작성 및 재작성 전면 금지

생성형 AI 모델들의 핵심 학습 데이터 역할을 해온 위키백과가 마침내 AI 작성 콘텐츠에 대해 빗장을 걸어 잠갔습니다.

영어 위키백과는 최근 지침을 개정하고, 편집자가 AI를 사용해 문서를 새로 작성하거나 기존 문서를 전면 수정하는 행위를 공식적으로 금지했습니다. AI가 생성한 텍스트가 위키백과의 핵심 콘텐츠 정책들을 위반하는 경향이 짙다는 점이 명분으로 제시됐습니다.

예외로 남겨둔 두 가지 용도와 '오인 방지' 기준

이번 조치는 영어 위키백과에 적용되며, 모든 AI 활용을 완전히 차단한 것은 아닙니다. 명확한 가이드라인 안에서 몇 가지 제한적인 활용은 여전히 허용됩니다.

우선 대규모 언어 모델을 활용해 문장의 어색한 부분을 다듬는 기본 교정 제안을 받는 것은 가능합니다. 다만 AI가 스스로 새로운 내용을 추가해서는 안 된다는 조건이 붙습니다.

다른 언어 버전의 위키백과 문서를 영어로 번역할 때 AI의 도움을 받는 것도 허용됩니다. 하지만 번역물의 정확성을 직접 검증할 수 있을 만큼 원문 언어에 능숙한 편집자만 이 기능을 보조적으로 쓸 수 있습니다.

지침에는 억울한 피해자를 막기 위한 흥미로운 조항도 들어갔습니다. 인간 작성자 중에서도 문체가 우연히 대규모 언어 모델과 닮은 경우가 있을 수 있으므로, 단순한 문체나 어투의 특징만을 근거로 편집 권한을 제한해서는 안 된다고 경고했습니다.

규정 위반 여부를 가릴 때는 해당 문서가 핵심 정책을 충족하는지, 그리고 해당 편집자의 최근 기여 이력이 어떠한지를 종합적으로 확인해야 합니다.

커뮤니티의 오랜 저항과 압도적 지지

이번 지침 개정은 지난 몇 달 동안 위키백과 자원봉사자들이 겪어온 AI 생성 쓰레기 글과의 지루한 사투 끝에 나온 결과물입니다.

위키백과 편집자들은 그동안 엉터리 AI 문서를 신속하게 없애기 위해 '신속 삭제' 규정을 손질했고, 'WikiProject AI Cleanup'이라는 자체 프로젝트를 꾸려 AI가 쓴 콘텐츠를 추적하고 식별 요령을 공유해 왔습니다.

이번 금지안은 Chaotic Enby라는 편집자가 발의했으며, 기여자들 간의 긴 토론을 거쳐 압도적인 지지를 받으며 최종 통과됐습니다.

커뮤니티는 이번 정책이 생성형 AI 활용에서 발생하는 가장 노골적이고 위험한 문제를 정확히 겨냥하면서도, 합리적인 보조 도구로서의 여지는 잘 남겨뒀다고 평가했습니다.

왜 중요한가

우리는 위키백과의 이번 결정이 인터넷 지식 생태계의 붕괴를 막기 위한 필수적이고 현명한 방어선이라고 봅니다.

빅테크 기업들은 위키백과 데이터를 흡수해 최첨단 AI를 훈련시키고 있습니다. 만약 위키백과마저 AI의 환각과 조작된 정보로 오염된다면, 향후 인공지능이 자신이 뱉은 오물을 다시 학습하는 치명적인 악순환이 발생하게 됩니다.

일반 독자 입장에서도 위키백과가 사실 확인의 보루로서 신뢰를 유지할 수 있다는 점에서 반갑습니다. 새로운 지식을 창작하는 일과 문장을 다듬는 작업을 엄격히 분리해, AI를 단순 조력자 위치로 강등시킨 판단은 매우 현실적입니다.

하지만 남겨진 숙제도 만만치 않습니다. AI의 작문 능력이 정교해질수록 기계의 글과 사람의 글을 구분하기란 거의 불가능에 가까워지고 있습니다. 지침이 오인 제재를 경계하고 있음에도 불구하고, 자원봉사자들이 실제 현장에서 AI 개입 여부를 객관적으로 입증하는 과정에서 겪을 피로감은 상당할 것으로 보입니다.