구글 클라우드, 엔비디아 H100 탑재 A3 인스턴스 정식 출시

자체 AI 칩인 TPU를 보유한 Google조차 폭발적인 생성형 AI 수요 앞에서는 엔비디아의 손을 잡을 수밖에 없었습니다.

Google Cloud Next 기조연설에서 엔비디아 CEO 젠슨 황은 Google Cloud CEO 토마스 쿠리안과 함께 무대에 올라 NVIDIA H100 텐서 코어 GPU 기반의 A3 가상머신 인스턴스를 정식 출시한다고 밝혔습니다.

이와 함께 엔비디아는 Google Cloud의 올해의 생성형 AI 파트너로 선정되며, 하드웨어 공급을 넘어선 소프트웨어 전반의 밀착 협력을 공식화했습니다.

DeepMind도 내부에서 H100 활용

이번 발표에서 가장 눈길을 끈 대목은 Google의 핵심 연구 조직인 DeepMind를 포함한 내부 연구진조차 H100과 A100 GPU를 연구 및 추론에 적극 활용하고 있다는 점입니다.

프레임워크 차원의 연동도 강화되었습니다. Google이 대규모 언어 모델 학습에 사용하는 JAX 기반 프레임워크 PaxML이 엔비디아 GPU 가속을 공식 지원하며, NVIDIA NGC 컨테이너 레지스트리를 통해 즉시 배포되었습니다.

이 외에도 NVIDIA AI Enterprise가 Google Cloud Marketplace에 입점했고, Vertex AI 개발 환경에 엔비디아 가속 도구가 통합되었습니다. 데이터 분석 서비스인 Dataproc 역시 아파치 스파크용 RAPIDS 가속기를 도입해 처리 속도를 대폭 끌어올렸습니다.

현재 1,000곳 이상의 생성형 AI 스타트업이 Google Cloud에서 엔비디아 기술을 사용 중입니다. 마케팅 솔루션 기업 Writer는 NeMo 프레임워크를 통해 모델을 400억 파라미터 수준으로 확장했고, 동영상 생성 AI 스타트업 Runway 역시 이 인프라를 활용하고 있습니다.

왜 중요한가

자체 실리콘 생태계를 고집하던 Google이 H100을 전면에 내세운 것은, 엔비디아의 CUDA 생태계를 수용하지 않고는 AI 클라우드 전쟁에서 살아남기 어렵다는 판단이 깔려 있습니다.

개발자와 스타트업 입장에서는 반가운 변화입니다. 기존 Vertex AI 작업 흐름을 유지하면서도 최고 성능의 H100 인프라를 바로 활용할 수 있게 되어, 대규모 모델을 훈련하고 상용화하는 진입 장벽이 크게 낮아졌습니다.

시장 경쟁 측면에서 볼 때 Google의 이번 결정은 실리적인 접근으로 보입니다. 자체 TPU만 고집하다가는 유망 AI 스타트업들이 마이크로소프트 Azure 등 경쟁사로 이탈할 수밖에 없기 때문입니다.

하지만 엔비디아에 대한 의존도가 높아질수록 비싼 칩 가격과 공급 부족 문제에 고스란히 노출되는 구조적 한계도 피하기 어렵습니다. 장기적으로 자체 TPU와의 공존 균형을 맞추는 것이 핵심 과제가 될 것입니다.