엔비디아, ‘AI 파운드리’ 공개: TSMC처럼 기업 맞춤형 AI 모델 위탁 제조
엔비디아가 기업용 맞춤형 AI 구축 서비스인 ‘AI 파운드리’의 세부 사항을 공개했다. DGX Cloud와 NeMo 소프트웨어를 통해 Llama 3.1 등 오픈 모델을 기업 맞춤형으로 미세조정하고 NIM 마이크로서비스로 배포할 수 있도록 지원하며, 엔터프라이즈의 독자 AI 도입 장벽을 낮춘다.
DGX Cloud
엔비디아와 허깅페이스의 맞손: DGX 클라우드 초고성능 연산 직접 연결
엔비디아와 허깅페이스가 DGX 클라우드 슈퍼컴퓨팅을 허깅페이스 플랫폼에 통합한다고 발표했다. 노드당 8개의 H100 또는 A100 GPU를 탑재한 '서비스형 훈련 클러스터'를 도입해 원클릭으로 기업 맞춤형 대형 언어모델 학습을 지원한다. 향후 수개월 내 정식 제공될 예정이다.