엔비디아와 허깅페이스의 맞손: DGX 클라우드 초고성능 연산 직접 연결

오픈소스 대형 언어 모델을 활용해 본 엔지니어라면 누구나 공감하는 난관이 있습니다. 모델 가중치를 내려받는 것까지는 쉽지만, 기업 자체 데이터를 넣어 제대로 미세조정하려면 여러 대의 고성능 GPU와 복잡한 클러스터 네트워크 설정이 발목을 잡기 일쑤입니다.

컴퓨터 그래픽스 콘퍼런스 SIGGRAPH에서 NVIDIA와 Hugging Face가 손을 잡았습니다. 전 세계 수백만 개발자가 사용하는 Hugging Face 플랫폼 내부에서 NVIDIA의 AI 슈퍼컴퓨팅 인프라인 'DGX Cloud'를 바로 연결해 쓸 수 있도록 하겠다는 계획입니다.

개발자는 복잡한 인프라 세팅 없이 브라우저 클릭 몇 번으로 최고 사양의 AI 슈퍼컴퓨터를 불러와 대규모 모델 학습을 진행할 수 있게 됩니다.

오픈소스 허브에서 바로 띄우는 8-GPU 슈퍼컴퓨터

Hugging Face는 이번 협력을 바탕으로 'Training Cluster as a Service(서비스형 트레이닝 클러스터)'라는 새로운 엔터프라이즈 기능을 향후 수개월 내에 선보일 예정입니다.

이 기능이 도입되면 기업들은 Hugging Face에 등록된 오픈소스 자산을 외부 클라우드로 옮길 필요 없이, 플랫폼 안에서 NVIDIA DGX Cloud 연산 자원을 즉시 할당받아 커스텀 모델을 만들 수 있습니다.

제공되는 하드웨어 제원은 압도적입니다. DGX Cloud 인스턴스마다 8장의 NVIDIA H100 또는 A100 80GB Tensor Core GPU가 탑재되어 노드당 640GB의 GPU 메모리를 제공합니다.

여기에 노드 간 통신 병목을 최소화하는 초저지연 네트워킹 기술이 적용되어 대규모 분산 학습 환경을 안정적으로 지원합니다. 또한 모델 최적화와 기술적 병목을 해결할 수 있도록 NVIDIA 내부 전문가의 기술 지원도 함께 포함됩니다.

현재 Hugging Face는 15,000개 이상의 기업과 기관이 이용 중이며, 25만 개 이상의 모델과 5만 개 이상의 데이터셋이 공유되어 있습니다. 이 방대한 오픈소스 생태계가 초고성능 인프라와 직통으로 연결되는 셈입니다.

왜 중요한가

자체 데이터를 활용해 맞춤형 챗봇, 기업용 검색, 문서 요약 모델을 구축하려는 기업 팀에게 이번 협업은 매우 실질적인 작업 단축을 의미합니다. MLOps 엔지니어가 며칠씩 매달려야 했던 멀티 노드 클러스터 구축 과정을 단번에 건너뛸 수 있기 때문입니다.

다만 H100 8장 기반의 DGX Cloud는 가격대가 매우 높을 수밖에 없으므로, 개인 개발자나 소규모 연구자보다는 명확한 예산을 갖춘 기업 고객이 주 타깃이 될 것으로 보입니다.

업계 관점에서는 NVIDIA의 생태계 확장 전략이 다시 한번 돋보이는 장면입니다. 하드웨어 판매에만 머무르지 않고, 개발자들이 매일 드나드는 가장 활성화된 오픈소스 커뮤니티의 작업 흐름 한가운데에 자사 클라우드 서비스를 심어 넣었습니다.

우리가 보기에 Hugging Face는 단순한 모델 저장소를 넘어 실제 연산이 일어나는 AI 개발 플랫폼으로 진화하고 있으며, NVIDIA는 이를 통해 엔터프라이즈 오픈소스 시장의 핵심 연산 수요까지 확실하게 선점해 나가고 있습니다.