xAI의 그록, 답변 거부하며 "오픈AI 정책 위반" 황당 답변 논란

경쟁사를 잡겠다고 호기롭게 내놓은 최신 인공지능이, 정작 대답을 거절하며 그 경쟁사의 이용 약관을 읊어대는 촌극이 벌어졌습니다.

지난주 본격적인 배포에 들어간 일론 머스크의 xAI 대형 언어 모델 그록(Grok)에서 황당한 오류가 포착되었습니다. 보안 테스터 잭스 윈터본(Jax Winterbourne)은 금요일, 그록이 특정 요청을 거부하며 "OpenAI의 사용 정책에 위배되므로 해당 요청을 수행할 수 없습니다"라고 답한 화면을 캡처해 공개했습니다.

ChatGPT의 대항마로 대대적인 홍보를 펼쳐온 모델이 경쟁사 규정을 그대로 입에 올리자 온라인은 발칵 뒤집혔습니다.

단순 웹 크롤링 실수라는 xAI, 회의적인 전문가들

xAI 측도 이런 현상이 실제로 발생한다는 점은 부인하지 않았습니다. xAI 소속 직원 이고르 바부슈킨(Igor Babuschkin)은 웹 전체에 이미 ChatGPT 생성물이 넘쳐나다 보니, 대규모 웹 데이터를 수집해 그록을 학습시키는 과정에서 실수로 일부 데이터가 섞여 들어갔다고 해명했습니다.

바부슈킨은 내부에서도 처음 이를 발견하고 크게 놀랐으며, 이는 매우 드물게 발생하는 문제로 다음 버전에서 수정될 예정이고 OpenAI의 코드는 전혀 사용되지 않았다고 덧붙였습니다.

하지만 문제를 제기한 윈터본의 말은 달랐습니다. 그는 코드 생성과 관련된 작업을 시킬 때 이 같은 거절 문구가 결코 드물지 않고 꽤 자주 나타난다고 반박했습니다.

AI 연구원 사이먼 윌리슨(Simon Willison) 역시 아스 테크니카(Ars Technica)와의 인터뷰에서 xAI의 해명에 강한 의구심을 표했습니다. LLM이 웹에 떠도는 문장을 토씨 하나 안 틀리고 그대로 뱉어낼 확률은 희박하며, 허깅페이스에 올라온 수많은 오픈 가중치 모델에서도 똑같은 현상이 나타나는 이유는 OpenAI API 데이터셋으로 미세 조정을 거쳤기 때문이라는 지적입니다.

왜 중요한가

우리는 이번 사건이 AI 업계의 공공연한 비밀인 '데이터 무단 증류'의 민낯을 드러냈다고 봅니다. OpenAI를 넘어서겠다고 외치는 수많은 도전자들이 실제로는 ChatGPT의 답변을 교재 삼아 모델을 훈련시키고 있다는 정황입니다.

그록을 직접 써보려는 개발자나 사용자 입장에서 볼 때, 지금의 그록은 머스크가 약속했던 완전히 차별화된 독자 AI라기보다는 ChatGPT의 패턴을 상당 부분 흉내 낸 과도기적 모델에 가깝습니다. 특히 코딩이나 검열 기준에서 기존 도구와 차별화된 경험을 기대하고 유료 구독을 고민한다면 아직은 한 번 더 지켜볼 필요가 있습니다.

산업적 측면에서 xAI는 치명적인 명분 타격을 입었습니다. OpenAI의 폐쇄성과 검열을 비판하며 대안을 자처했던 xAI가, 정작 내부 안전장치마저 적수의 규칙을 그대로 베껴온 꼴이 되었기 때문입니다.

더 큰 문제는 앞으로의 인공지능 학습 환경입니다. 웹 공간이 합성 데이터로 오염되면서 최상위 연구진조차 데이터 정제 과정에서 경쟁사의 흔적을 걸러내지 못하고 있습니다. 앞으로 독자적인 순수 모델을 구축하는 비용과 난도는 과거와 비교할 수 없을 만큼 치솟을 것으로 보입니다.