엔비디아, ‘AI 파운드리’ 공개: TSMC처럼 기업 맞춤형 AI 모델 위탁 제조

TSMC가 전 세계 칩을 위탁 생산하듯, 엔비디아가 기업 전용 AI 모델을 대신 만들어주는 파운드리 사업을 본격화했습니다.

엔비디아는 기업 맞춤형 생성형 AI 구축 서비스인 'NVIDIA AI Foundry'의 구조를 상세히 공개했습니다. 기업이 자체 데이터를 가져오면, 엔비디아의 인프라와 소프트웨어, 전문가 지원을 통해 비즈니스에 특화된 커스텀 모델을 제작해 주는 방식입니다.

칩 제조처럼 모델을 찍어내는 방식

범용 AI 모델은 업계 전문 용어를 잘 모르고 보안 우려도 큽니다. 엔비디아는 기업이 밑바닥부터 모델을 학습시킬 필요 없이, 검증된 오픈 모델을 바탕으로 안전하게 자체 모델을 만들 수 있도록 지원합니다.

지원 모델 라인업에는 메타의 최신 Llama 3.1을 비롯해 구글의 Gemma, Mistral, 마이크로소프트의 Phi-3, 엔비디아의 Nemotron 등이 포함됩니다.

컴퓨팅 자원은 AWS, 구글 클라우드, 오라클 클라우드 인프라와 협력해 구축한 DGX Cloud를 사용합니다. 하드웨어 대량 구매 없이도 대규모 가속 연산을 유연하게 끌어다 쓸 수 있는 구조입니다.

소프트웨어 핵심은 NeMo 플랫폼입니다. 데이터 정제용 NeMo Curator, 미세조정용 NeMo Customizer, 평가 도구인 NeMo Evaluator, 대화 안전성을 제어하는 NeMo Guardrails 등이 전 과정을 뒷받침합니다. 완성된 모델은 최적화된 NIM 마이크로서비스 패키지로 제공되어 온프레미스 서버나 클라우드 어디서든 즉시 배포할 수 있습니다.

현재 SAP, 서비스나우, 스노우플레이크, 현대자동차, 캐피털 원 등이 초기 고객으로 참여하고 있습니다.

왜 중요한가

엔비디아는 단순한 하드웨어 공급업체를 넘어 기업용 AI 소프트웨어와 인프라 전반을 장악하려는 영리한 수를 두고 있습니다.

자체 데이터로 고유한 경쟁력을 만들고 싶지만 전문 엔지니어링 역량이 부족한 대기업에게 이 파운드리 모델은 매우 매력적인 대안입니다. 데이터 정제부터 배포까지 검증된 엔비디아의 도구와 전문가가 가이드를 제공하므로 실패 확률을 크게 줄일 수 있습니다.

하지만 종속 문제는 분명합니다. DGX Cloud부터 NeMo 툴킷, NIM 배포 환경까지 모든 워크플로가 엔비디아 생태계에 묶이게 됩니다. 장기적으로 인프라 전환 비용이 매우 커질 수밖에 없습니다.

업계 전반으로 보면, 모델 미세조정과 MLOps를 전문으로 하던 스타트업들에게 큰 위협입니다. 칩 시장의 지배자가 기업 서비스 파이프라인 전체를 수직 계열화하면서, 중간 영역에 있던 기업들의 설 자리가 좁아지고 있습니다.