Grok Build 전체 코드 무단 업로드 논란에 머스크 "전부 삭제하겠다"

일론 머스크의 xAI가 선보인 새로운 코딩 도구를 최근 터미널에서 실행해봤다면, 지금 즉시 서버 접속 키와 비밀번호를 재설정해야 할 수도 있습니다.

AI 안전 연구 기관인 세레브랩(Cereblab)이 발표한 조사 결과에 따르면, xAI의 CLI 코딩 도구인 그록 빌드(Grok Build)가 사용자 로컬의 전체 코드 저장소를 구글 클라우드 스토리지 버킷으로 몰래 업로드하고 있었던 사실이 드러났습니다.

심각한 점은 단순히 작업 중인 코드만 보낸 것이 아니라는 사실입니다. 사용자가 열지 말라고 명시한 파일은 물론, 과거 깃 커밋 이력에서 이미 삭제했던 비밀 키와 민감 정보까지 전부 묶어서 클라우드로 전송했습니다. 심지어 한 사용자는 홈 디렉터리 전체가 패키징되어 전송되면서 SSH 키와 비밀번호 관리자 데이터베이스까지 통째로 유출되는 피해를 입었습니다.

서버 긴급 패치와 머스크의 데이터 삭제 약속

킹스 칼리지 런던의 독립 보안 연구원인 루카시 올레니크(Lukasz Olejnik) 박사는 이러한 데이터 수집 행위가 과도하다고 지적했습니다. 위험에 노출된 데이터에는 독점 소스 코드뿐만 아니라 보안 취약점 정보, 개인 데이터, 인프라 세부 정보, 각종 인증 자격 증명이 포함되어 있기 때문입니다.

문제가 불거지자 xAI는 서버 측 설정을 통해 긴급 조치를 취했습니다. 세레브랩의 테스트에 따르면 현재 서버가 disable_codebase_upload 플래그를 true로 반환하면서 무단 업로드 동작은 중단된 상태입니다.

일론 머스크는 X를 통해 그록 빌드가 기존에 업로드한 모든 데이터를 완전히 삭제하겠다고 약속했습니다. 하지만 머스크는 개인정보 보호 설정이 항상 존중되고 있다고 주장하는 한편, 문제 해결과 디버깅에 도움이 된다며 데이터 보관을 허용해 달라는 요청을 덧붙이기도 했습니다.

xAI는 CLI 내부에서 /privacy 명령어를 실행하면 데이터 보관을 끄고 기존 동기화 데이터를 지울 수 있다고 안내했습니다. 그러나 세레브랩은 이 명령어가 단지 세션별 설정 토글일 뿐이며, 이번 무단 업로드를 해결한 실제 스위치가 아니기 때문에 해결책으로 제시되어서는 안 된다고 반박했습니다.

왜 중요한가

우리는 이번 사태가 생성형 AI 코딩 도구 생태계에서 발생한 가장 치명적인 보안 사고 중 하나라고 봅니다.

클로드 코드(Claude Code)와 같은 경쟁 도구들과 비교해 볼 때, 읽지 말라고 지정한 파일과 전체 깃 이력, 심지어 사용자 홈 디렉터리까지 무차별로 수집해 클라우드로 긁어모은 행태는 선을 한참 넘었습니다. 머스크가 데이터 삭제를 공언했더라도, 그록 빌드를 사용했던 개발자라면 지금 당장 노출 가능성이 있는 모든 API 토큰과 SSH 키를 교체하는 것이 안전합니다.

AI 에이전트의 코드 이해도를 높이고 버그를 잡겠다는 명분으로 개발자의 로컬 경계를 무시하고 데이터를 전송하는 방식은 매우 위험합니다. 백엔드 플래그 하나로 언제든 데이터 수집 방식을 바꿀 수 있다는 점이 확인된 만큼, 투명한 로컬 격리와 권한 제어가 보장되지 않는다면 기업과 전문 개발자들의 신뢰를 되찾기는 어려워 보입니다.