LM 아레나, 빅테크 챗봇 순위 조작 편의 제공 의혹 제기돼

AI 업계에서 가장 신뢰받는 벤치마크로 자리 잡았던 '챗봇 아레나(Chatbot Arena)'가 시험 문제 유출 및 편파 운영 논란에 휩싸였습니다.

AI 스타트업 코히어(Cohere)와 스탠퍼드대, MIT, 앨런 인공지능 연구소(Ai2) 연구진은 공동 논문을 통해 챗봇 아레나 운영사인 LM 아레나가 메타, 오픈AI, 구글, 아마존 등 일부 빅테크의 순위 조작을 도왔다고 폭로했습니다.

27개 버전 비밀 테스트하고 최고 성적만 공개

논문이 짚어낸 가장 큰 맹점은 비공개 테스트 특혜입니다. 연구진이 5개월간 280만 회 이상의 모델 대결을 추적한 결과, 특정 대기업들은 여러 모델 버전을 비공개로 테스트한 뒤 성적이 낮은 모델은 숨기고 가장 점수가 높은 모델의 순위만 공개할 수 있었습니다.

대표적인 곳이 메타입니다. 메타는 라마 4(Llama 4)를 출시하기 전인 1월부터 3월까지 챗봇 아레나에서 무려 27개 변형 모델을 비공개 테스트했습니다. 그리고 출시 당일에는 상위권에 오른 단 하나의 모델 성적만 세상에 공개했습니다.

코히어의 AI 연구 부사장 사라 후커(Sara Hooker)는 소수 기업만 이 비공개 테스트의 존재를 알았고 배정받은 테스트 양도 불공평하게 많았다며, 이는 명백한 '순위 어뷰징'이라고 지적했습니다.

이에 대해 LM 아레나 공동 창립자이자 UC 버클리 교수인 이온 스토이카(Ion Stoica)는 논문에 부정확한 내용과 미흡한 분석이 가득하다고 반박했습니다. LM 아레나 측은 모든 기업에 참여 기회가 열려 있으며, 공개되지도 않은 비공개 모델의 점수를 순위표에 띄우는 것은 무의미하다고 해명했습니다.

대결 횟수 몰아주기와 편향된 데이터

논문은 모델 노출 빈도인 '샘플링 비율'의 불평등도 문제 삼았습니다. 메타, 오픈AI, 구글 모델이 사용자 대결에 더 자주 등장하도록 설정되어 더 많은 인간 피드백 데이터를 확보할 수 있었다는 것입니다.

연구진은 이렇게 얻은 추가 데이터를 활용하면 아레나 하드(Arena Hard) 벤치마크 성능을 최대 112%까지 끌어올릴 수 있다고 주장했습니다. 다만 LM 아레나 측은 아레나 하드 점수가 챗봇 아레나 순위와 직접 연결되지는 않는다고 선을 그었습니다.

연구 방식 자체의 한계도 있습니다. 연구진이 비공개 모델에 출신 회사를 직접 묻는 프롬프트를 통해 모델을 분류했기 때문에 완벽한 집계는 아닙니다. 구글 딥마인드 엔지니어 역시 구글이 비공개 테스트에 10개 모델을 올린 것은 맞지만 젬마 오픈소스 팀이 제출한 것은 1개뿐이었다고 해명하기도 했습니다.

논란이 커지자 LM 아레나는 모든 모델이 균등한 대결 기회를 얻도록 새로운 샘플링 알고리즘을 구축하겠다고 밝혔습니다.

왜 중요한가

기존 학술 벤치마크들이 오염되면서 챗봇 아레나의 사용자 블라인드 테스트는 전 세계 AI 업계의 나침반 역할을 해왔습니다. 하지만 거대 기업들이 뒤편에서 수십 개 버전을 찔러보고 잘 나온 것만 골라 내세울 수 있다면, 순위표는 실제 모델 성능이 아닌 자본력과 테스트 횟수의 결과물로 전락합니다.

실제 모델을 도입하려는 기업과 개발자들에게 이번 논란은 큰 경고입니다. 순위표 1위 모델이라도 실제 다운로드해 쓸 수 있는 버전과는 거리가 멀 수 있기 때문입니다. 메타가 라마 4 공개 당시 대화형 감점 요소를 배제하도록 깎아 만든 버전으로 랭킹을 띄운 뒤 정작 배포용 버전은 부진했던 사례가 대표적입니다.

우리는 LM 아레나가 최근 영리 기업 설립과 투자 유치 계획을 밝힌 시점이라는 점에 주목해야 한다고 봅니다. 학술 연구로 출발했던 기관이 상업화되는 과정에서 빅테크와의 유착 의혹을 해소하지 못한다면 신뢰도는 급격히 무너질 수밖에 없습니다. 투명한 샘플링과 전면적인 평가 기준 공개 없이는 AI 업계의 공정한 심판 자리를 유지하기 어려워 보입니다.