테슬라, 엔비디아 H100 1만 개 탑재한 대형 슈퍼컴퓨터 가동

테슬라가 자율주행(FSD) 학습 속도를 획기적으로 끌어올리기 위해 약 3억 달러 규모의 신규 AI 슈퍼컴퓨터 클러스터를 본격 가동했습니다.

이번 클러스터에는 엔비디아의 최고 사양 연산용 GPU인 H100 1만 장이 탑재되었습니다. 테크니컬 컴퓨팅 기준 피크 성능은 340 FP64 PFLOPS, AI 연산 기준으로는 39.58 INT8 ExaFLOPS에 달합니다. 이는 세계 4위 슈퍼컴퓨터인 레오나르도(Leonardo)의 304 FP64 PFLOPS를 뛰어넘는 수치로, 테슬라는 단숨에 세계 최고 수준의 슈퍼컴퓨터 보유 기업으로 올라섰습니다.

200PB 핫 캐시와 실주행 영상 학습

테슬라가 이처럼 천문학적인 연산 능력을 확보하려는 이유는 FSD 모델이 소비하는 데이터양이 일반적인 생성형 AI와는 차원이 다르기 때문입니다.

테슬라의 AI 인프라 엔지니어링 매니저인 팀 자만(Tim Zaman)에 따르면, 전 세계 테슬라 차량에서 수집되는 실제 주행 영상으로 모델을 훈련하기 때문에 핫 티어 캐시(hot tier cache) 용량만 200PB를 넘어섭니다. 이는 일반적인 대규모 언어 모델(LLM) 학습 규모보다 몇 배 이상 큰 수준입니다.

일론 머스크는 최근 테슬라가 2023년에만 AI 학습에 20억 달러 이상을 투입하고, 2024년에도 FSD 전용 컴퓨팅에 추가로 20억 달러를 지출할 계획이라고 밝힌 바 있습니다.

엔비디아 품귀와 자체 슈퍼컴퓨터 도조 병행

하지만 엔비디아 H100 공급 부족이 워낙 심각하다 보니, 돈이 있어도 원하는 만큼 칩을 확보하기는 쉽지 않은 상황입니다.

이 때문에 테슬라는 10억 달러 이상을 투자해 자체 커스텀 칩 기반의 슈퍼컴퓨터 '도조(Dojo)'를 함께 개발해 왔습니다. 도조는 FSD 훈련 속도를 높이는 동시에 테슬라 전체 차량의 데이터 처리를 분담하게 됩니다. 테슬라는 H100 1만 장 클러스터와 도조를 동시에 가동하며 자동차 업계 내 독보적인 연산 인프라를 구축하겠다는 구상입니다.

왜 중요한가

우리는 테슬라의 이번 H100 클러스터 가동이 자율주행 시장의 경쟁 룰을 '자동차 제조'에서 '초대규모 데이터센터 인프라 경쟁'으로 완전히 전환시켰다고 봅니다.

테슬라 차주 입장에서 이번 투자는 FSD 소프트웨어의 실질적인 체감 성능 향상으로 이어질 가능성이 큽니다. 200PB에 달하는 방대한 실주행 데이터를 더 빠르게 학습 루프에 태울 수 있게 되면서, 복잡한 주행 환경에서의 판단력 개선 속도가 눈에 띄게 빨라질 것으로 보입니다.

반면 레거시 완성차 업체들에게는 거대한 진입 장벽이 세워졌습니다. 여전히 수십 개의 외주 ECU를 조립하고 연간 수십억 달러 단위의 컴퓨팅 투자를 감당하기 어려운 기존 제조사들은 테슬라와의 소프트웨어 격차를 좁히기가 점점 더 불가능해지고 있습니다.

물론 엔비디아 공급망 의존도와 거액을 들인 도조의 실제 양산 수율 검증이라는 불안 요소는 남아 있습니다. 하지만 공급 부족에 굴하지 않고 상용 GPU와 자체 칩을 양방향으로 쏟아부어 연산 병목을 뚫어내려는 테슬라의 접근 방식은 대단히 영리하면서도 위협적입니다.