인텔 가우디 3 공개: 엔비디아 H100 대비 최대 1.7배 빠르다 주장

엔비디아의 H100 품귀 현상에 지친 기업들을 향해 인텔이 정면 승부수를 던졌습니다.

인텔은 피닉스에서 열린 자사 행사 '비전 2024'에서 차세대 AI 가속기 칩인 '가우디 3'를 공식 공개했습니다. 노림수는 아주 노골적이었습니다. 시장을 독점하고 있는 엔비디아의 데이터센터용 주력 칩 H100을 직접 겨냥했습니다.

HBM2e 128GB 무장, H100보다 50% 빠르다

가우디 3는 이전 세대인 가우디 2의 설계를 이어받았지만, 제조 공정을 TSMC 7나노에서 5나노로 업그레이드했습니다.

하드웨어 구성도 공격적입니다. 동일한 실리콘 다이 두 개를 고대역 연결로 묶어 하나의 칩처럼 작동하게 만들었습니다. 총 64개의 프로그래머블 텐서 프로세서 코어와 8개의 매트릭스 연산 엔진, 96MB 용량의 중앙 캐시 메모리를 내장했습니다.

메모리는 최대 128GB의 HBM2e를 탑재해 초당 3.7TB의 대역폭을 제공하며, 소비 전력은 900W TDP 수준입니다.

인텔이 공개한 벤치마크에 따르면, 오픈AI의 GPT-3 175B와 메타의 라마 2 7B를 훈련할 때 가우디 3는 H100보다 약 50% 빠르며, 조건에 따라 최대 1.7배 빠른 속도를 냈습니다. 라마 2와 팔콘 180B 모델 추론 작업에서도 H100 대비 50% 향상된 성능을 보였습니다.

전력 효율 역시 강조했습니다. 인텔은 가우디 3가 H100보다 에너지 효율 측면에서 최대 2.3배 더 우수하다고 주장했습니다.

공랭식 모델은 이미 파트너사에 샘플 공급이 시작되었으며 3분기에 정식 출시됩니다. 수랭식 모델은 4분기에 출시될 예정입니다.

다음 세대로 넘어가는 엔비디아와 가격 변수

화려한 수치 이면에는 짚고 넘어가야 할 지점들도 적지 않습니다.

우선 인텔은 벤치마크 테스트에 사용한 H100의 구체적인 하드웨어 사양이나 비교 시스템 환경을 명확히 밝히지 않았습니다.

더 큰 변수는 엔비디아의 신제품 일정입니다. 인텔이 비교한 H100은 현시점 가장 많이 팔린 제품이지만, 엔비디아는 이미 후속작인 H200을 2분기 출하할 예정이고 차세대 블랙웰 B200까지 발표한 상태입니다.

가우디 3가 시장에 본격적으로 풀리는 올해 하반기에는 이미 시장의 눈높이가 한 단계 더 올라가 있을 가능성이 높습니다.

가격 역시 아직 공개되지 않았습니다. 업계에 따르면 H100의 가격은 대략 3만 달러에서 4만 달러 선에 형성되어 있으며, AMD의 대항마인 인스팅트 MI300 시리즈는 1만 달러에서 1만 5000달러 수준으로 알려져 있습니다.

왜 중요한가

지난 1년 넘게 이어진 AI 칩 품귀는 메타, 마이크로소프트 등 빅테크들이 자체 칩 개발로 눈을 돌리게 만들 만큼 심각한 문제였습니다.

AI 모델을 당장 학습시키고 서비스해야 하는 기업 입장에서 가우디 3의 실질적인 가치는 수급 안정성과 가격표에 달려 있습니다. 인텔이 AMD와 비슷한 수준의 공격적인 가격을 매기고 안정적으로 물량을 공급한다면, 엔비디아 칩 배정을 하염없이 기다리던 고객들에게 충분히 매력적인 대안이 됩니다.

우리가 보기에 인텔이 아직 나오지도 않은 블랙웰 대신 현역인 H100을 타깃으로 삼은 것은 매우 실리적인 선택입니다. 당장 데이터센터 시장에서 벌어지는 병목을 파고들어 파이를 가져오겠다는 현실적인 계산이 깔려 있습니다.

다만 하드웨어 수치보다 넘기 힘든 것은 엔비디아의 쿠다(CUDA) 중심 소프트웨어 생태계입니다. 가우디 3의 성능이 아무리 좋아도 고객사 개발자들이 기존 코드를 인텔 환경으로 옮겨오는 데 따르는 전환 비용을 정당화할 수 있을지가 성공의 열쇠가 될 것으로 보입니다.