X, AI 챗봇이 '커뮤니티 노트' 직접 작성하는 시범 프로그램 도입

소셜 미디어에서 허위 정보가 퍼지는 속도를 사람의 손으로 일일이 따라잡기란 불가능에 가깝습니다. X가 이 병목 현상을 해결하기 위해 AI 챗봇이 직접 커뮤니티 노트를 작성할 수 있도록 하는 파일럿 프로그램을 7월 1일 시작했습니다.

커뮤니티 노트는 이용자들이 게시물에 맥락과 사실관계를 덧붙이는 집단지성 팩트체크 기능입니다. X의 제품 담당 부사장이자 커뮤니티 노트를 이끄는 Keith Coleman은 이용자들은 모든 게시물을 검토하기보다 조회수가 높은 대형 게시물만 확인하는 경향이 있다며, AI 도입이 노트 생성 규모를 확장하는 유용한 방법이 될 것이라고 설명했습니다. 구체적인 성장 수치 목표는 아직 정해지지 않았습니다.

사람이 다 볼 수 없으니 봇을 투입한다

이번 시험 운영에서 AI 노트 작성은 X의 자체 모델인 Grok에만 국한되지 않습니다. 이용자들은 Grok 외에도 API를 통해 외부 AI 도구를 X에 연동하여 노트를 생성하고 제출할 수 있습니다.

핵심은 AI가 쓴 글이라고 해서 별도의 지름길이 주어지지 않는다는 점입니다. 봇이 제출한 노트는 인간 참가자가 제출한 것과 완전히 동일한 검증 절차를 거치게 됩니다.

커뮤니티 노트는 과거 평가 성향이 서로 달랐던 이용자 집단 사이에서 폭넓은 합의를 얻어야만 게시물 하단에 공개됩니다. AI가 생성한 초안 역시 이 엄격한 교차 검증을 통과해야만 일반 이용자에게 노출됩니다.

환각 위험과 자원봉사자 과부하 우려

하지만 AI를 팩트체크에 활용하는 데 대한 우려는 여전히 큽니다. LLM이 사실이 아닌 내용을 그럴듯하게 지어내는 환각 현상이 흔하기 때문입니다.

최근 일부 모델에서 나타난 지나친 영합주의 경향도 문제입니다. AI가 엄격한 진위 판별보다 대화의 유용함이나 답변의 그럴듯함에 치중할 경우 완전히 빗나간 노트를 만들어낼 위험이 있습니다.

이번 주 커뮤니티 노트 연구진이 발표한 논문은 인간과 AI의 협업을 강조하고 있습니다. 인간의 피드백을 반영한 강화학습으로 생성 품질을 높이되, 최종 게시 여부를 결정하는 문지기 역할은 인간 평가자가 맡는 선순환 구조를 만들겠다는 구상입니다.

하지만 현실적인 부작용도 있습니다. AI가 대량의 노트를 쏟아낼 경우, 무보수로 활동하는 자원봉사 평가자들이 과도한 검토 업무에 지쳐 이탈할 수 있습니다. X는 수주 동안 이번 테스트를 진행한 뒤 확대 여부를 결정할 예정입니다.

왜 중요한가

우리는 X의 이번 시도가 플랫폼 콘텐츠 관리의 가장 큰 난제인 규모의 경제를 생성 AI로 풀려는 움직임이라고 봅니다.

이미 커뮤니티 노트 방식은 시장에서 큰 반향을 일으켰습니다. Meta, TikTok, YouTube가 유사한 모델을 도입했고, Meta는 기존의 외부 전문 팩트체크 계약을 아예 없애고 저비용의 커뮤니티 크라우드소싱으로 전면 전환했습니다. X의 실험이 성공한다면 다른 플랫폼 역시 팩트체크 파이프라인에 AI를 본격적으로 도입할 가능성이 높습니다.

일반 이용자 입장에서는 사람이 일일이 들여다보지 않던 AI 조작 영상이나 교묘한 정치적 주장 같은 틈새 허위 정보에도 훨씬 빠르게 맥락이 붙는 혜택을 기대해 볼 수 있습니다.

하지만 시스템 내부에는 명확한 불안 요소가 있습니다. 커뮤니티 노트의 신뢰도는 오직 자원봉사자들의 꼼꼼한 검토에 기반합니다. AI가 질 낮은 초안을 대량으로 밀어넣는다면, 무료 노동을 제공하는 평가자들의 피로도가 극에 달해 신뢰 시스템 자체가 무너질 위험이 있습니다. 검증되지 않은 AI 팩트체커를 감시하는 또 다른 피로가 이용자에게 전가될 수 있다는 점은 경계해야 합니다.