머스크의 xAI, 액체냉각 H100 10만 장 슈퍼클러스터 가동

일론 머스크의 인공지능 기업 xAI가 미국 테네시주 멤피스에 구축한 대규모 연산 시설인 멤피스 슈퍼클러스터(Memphis Supercluster)에서 대형언어모델 학습을 본격 시작했습니다. 머스크는 X를 통해 이 시설이 세계에서 가장 강력한 AI 훈련 클러스터라고 발표했습니다.

현지 매체 WREG에 따르면 이번 프로젝트는 멤피스 역사상 신규 진입 기업 기준으로 역대 최대 규모의 자본 투자입니다. xAI는 이곳에서 자사 챗봇 Grok의 차세대 모델을 집중 훈련할 계획입니다.

수랭식 H100 10만 개를 단일 패브릭으로 연결

머스크가 공개한 핵심 사양에 따르면 해당 클러스터에는 10만 개의 수랭식 엔비디아 H100 GPU가 투입되었습니다. 현재 글로벌 테크 업계 전반에서 품귀 현상을 빚는 고급 칩을 단일 시설에 대규모로 집결시킨 것입니다.

네트워크 설계도 주목할 만합니다. 머스크는 전체 시스템이 단일 RDMA 패브릭 위에서 동작한다고 밝혔습니다. CPU를 거치지 않고 컴퓨팅 노드 간 직접 메모리 접근을 지원해 데이터 전송 지연 시간을 낮추고 처리 효율을 극대화하는 방식입니다.

하지만 전력 공급 계약 문제는 여전히 숙제로 남아 있습니다. 현지 공공 유틸리티인 테네시강유역개발공사는 100메가와트를 초과하는 전력 소비 프로젝트에 정식 계약 체결을 요구하고 있으나, xAI는 아직 이를 확보하지 못한 상태입니다.

12월까지 최고 성능 달성 공언과 변수들

머스크는 후속 게시물을 통해 올해 12월까지 모든 지표에서 세계에서 가장 강력한 AI를 훈련하는 것이 목표라고 못 박았습니다. 이번 슈퍼클러스터가 목표 달성에 결정적인 우위를 제공할 것이라는 설명입니다.

현재 Grok은 X의 유료 구독자를 중심으로 제공되고 있습니다. 오픈AI와 앤스로픽, 구글, 메타와의 생성형 AI 주도권 경쟁이 치열해지는 상황에서 xAI는 시장의 관심을 유지할 확실한 한 방이 필요한 시점입니다.

다만 머스크가 자율주행이나 로보택시 등 과거 프로젝트에서 일정 지연을 반복해 온 만큼, 12월 공개라는 일정을 곧이곧대로 받아들이기 어렵다는 반응도 적지 않습니다. 경쟁사인 마이크로소프트와 오픈AI가 1000억 달러 규모의 슈퍼컴퓨터 스타게이트(Stargate) 구축을 추진 중이라는 보도도 있어 선두 자리 유지는 쉽지 않아 보입니다.

왜 중요한가

일반 이용자와 X 유료 구독자 관점에서는 연말 즈음 Grok의 문제 해결 능력과 코딩, 문맥 이해도가 눈에 띄게 개선될 가능성을 기대할 수 있습니다. 다만 아직 미완성 모델인 만큼 단지 향후 업데이트 약속만 보고 당장 유료 요금제에 가입할 단계는 아닙니다.

산업 측면에서는 AI 훈련 인프라 경쟁이 10만 장 단위의 단일 클러스터라는 극단적인 물리전으로 진입했음을 보여줍니다. 알고리즘의 효율성뿐 아니라 단일 데이터센터 안에서 얼마나 막대한 칩과 전력을 통합 제어할 수 있는지가 주요 경쟁선으로 자리 잡았습니다.

우리는 xAI가 단일 RDMA 패브릭 기반의 수랭식 클러스터를 신속하게 가동해 선두 주자와의 연산력 격차를 좁힌 방식은 영리한 전략이라고 봅니다. 그러나 100메가와트 이상의 전력 계약이 확정되지 않은 채 돌아가는 구조는 심각한 운영 리스크입니다. 하드웨어를 집결시킨 과감함이 실제 12월 결과물로 이어질 수 있을지가 이 거대 투자의 진짜 시험대입니다.