오픈AI 'GPT-5.2', 논쟁적 주제에 xAI 그로키피디아 인용 논란

AI가 다른 AI의 생성물을 사실로 인용하는 이른바 합성 데이터 오염 문제가 업계 최고 수준의 모델에서도 확인됐습니다.

OpenAI는 12월 스프레드시트 작성과 복잡한 업무를 처리할 수 있는 전문가용 최첨단 프론티어 모델로 GPT-5.2를 선보였습니다. 하지만 영국 일간지 가디언의 테스트 결과, 이 모델이 특정 민감 주제를 다룰 때 일론 머스크의 xAI가 만든 AI 백과사전 그로키피디아를 출처로 인용하고 있는 것으로 나타났습니다.

민감한 역사 질문에 xAI 백과사전 인용

가디언 보도에 따르면 ChatGPT는 이란 정부와 통신사 MTN-Irancell 간의 연계성을 묻는 질문에서 그로키피디아를 주요 근거로 활용했습니다.

또한 홀로코스트 부정론자 데이비드 어빙의 명예훼손 재판에서 전문가 증인으로 참여했던 영국 역사학자 리처드 에번스 관련 질문에서도 그로키피디아를 인용했습니다. 다만 도널드 트럼프 전 대통령에 대한 언론 편향성과 같은 다른 논쟁적 질문에서는 그로키피디아를 인용하지 않은 것으로 파악됐습니다.

문제는 그로키피디아 자체의 신뢰도입니다. xAI 기반으로 제작된 이 백과사전은 과거 네오나치 포럼의 주장을 인용한 사실이 밝혀져 큰 논란을 빚은 바 있습니다. 미국 연구진의 조사에서도 해당 서비스가 의심스럽고 문제가 많은 출처를 인용하고 있다는 결론이 내려졌습니다.

이에 대해 OpenAI는 가디언 측에 GPT-5.2가 광범위한 공개 출처와 관점을 웹에서 검색하지만 심각한 위해를 초래할 수 있는 링크를 걸러내는 안전 필터를 적용하고 있다고 해명했습니다.

왜 중요한가

이번 사안은 웹 검색 기반 AI 에이전트가 다른 AI의 결과물을 무비판적으로 수용할 때 어떤 문제가 발생하는지 잘 보여줍니다.

OpenAI는 GPT-5.2를 전문 업무용으로 포지셔닝했지만, 사실 확인이 필요한 역사적·지정학적 질문에서 검증되지 않은 AI 백과사전을 인용한다면 조사 업무를 맡기는 사용자로서는 결과를 온전히 신뢰하기 어렵습니다. 지금 당장 이 모델로 전문적인 리서치를 수행하는 사용자라면 출처 재검증이 필수적입니다.

OpenAI의 필터링 정책이 극단적인 유해 콘텐츠 차단에만 머물러 있는 것도 한계로 보입니다. 인터넷에 AI가 생성한 텍스트가 넘쳐나는 상황에서 경쟁사의 검증되지 않은 데이터를 걸러내지 못한다면, 최상위 모델이라 하더라도 데이터 근친교배의 늪에서 벗어나기 어려울 것입니다.