엔비디아, PC·워크스테이션용 생성형 AI 개발 도구 'AI 워크벤치' 공개

기업에서 자체 생성형 AI 모델을 구축하려면 개발 환경을 세팅하는 데만 며칠씩 걸리기 일쑤였습니다. 수많은 오픈소스 저장소에서 프레임워크와 컨테이너를 찾아 헤매고, 초기 테스트부터 비싼 클라우드 비용을 지출해야 했습니다.

SIGGRAPH 행사에서 엔비디아의 젠슨 황 CEO는 이러한 진입 장벽을 해결할 통합 개발 툴킷인 'NVIDIA AI Workbench'와 함께 엔터프라이즈 플랫폼 최신 버전인 'NVIDIA AI Enterprise 4.0'을 공개했습니다.

로컬 PC에서 튜닝하고 클라우드로 확장

AI Workbench는 윈도우나 리눅스 기반의 엔비디아 RTX PC 및 워크스테이션에서 구동되는 간소화된 통합 개발 환경입니다.

개발자는 허깅페이스, 깃허브, 엔비디아 NGC 등 주요 저장소의 사전 학습 모델을 가져와 사내 데이터를 활용해 몇 번의 클릭만으로 미세조정과 테스트를 진행할 수 있습니다.

로컬에서 검증을 마친 워크로드는 온프레미스 데이터센터나 퍼블릭 클라우드, 혹은 NVIDIA DGX Cloud로 코드 재작업 없이 바로 이전해 확장할 수 있습니다.

델 테크놀로지스, HPE, HP, 레노버, 슈퍼마이크로, 람다 등 주요 인프라 제조사들이 자사 워크스테이션에 AI Workbench 지원을 발표했습니다. 아울러 200만 명의 사용자를 보유한 허깅페이스와의 파트너십을 통해 플랫폼 내에서 직접 DGX Cloud 연산 자원에 접근할 수 있는 경로도 열렸습니다.

엔터프라이즈 플랫폼과 차세대 슈퍼칩

운영 환경 배포를 가속하기 위한 NVIDIA AI Enterprise 4.0도 함께 선보였습니다. LLM 개발을 지원하는 네모(NeMo) 프레임워크와 쿠버네티스 환경 내 추론 배포를 자동화하는 트리톤 관리 서비스를 탑재했습니다.

이 플랫폼은 AWS, 구글 클라우드, 마이크로소프트 애저, 오라클 클라우드 마켓플레이스에 통합되며, 서비스나우 및 스노우플레이크와의 협업도 확대됩니다.

하드웨어 부문에서는 차세대 GH200 그레이스 호퍼 슈퍼칩 플랫폼이 공개되었습니다. 듀얼 구성 기준으로 144개의 Arm 네오버스 코어와 282GB의 HBM3e 메모리를 탑재해 8페타플롭스의 성능을 내며, 2024년 2분기에 주요 제조사를 통해 공급될 예정입니다.

왜 중요한가

개발자와 기업 입장에서는 생성형 AI 프로젝트의 진입 장벽이 획기적으로 낮아집니다. 비싼 클라우드 인프라를 대여하지 않고도 자리에 있는 RTX 장비에서 안전하게 내부 데이터로 프로토타입을 검증할 수 있기 때문입니다.

업계 관점에서 보면 엔비디아는 하드웨어 파편화를 넘어 개발 파이프라인 전체를 장악하려는 움직임을 보이고 있습니다. 데스크톱에서 엔비디아 도구로 작업을 시작한 개발자는 모델 규모가 커졌을 때 자연스럽게 DGX Cloud나 엔비디아 기반 클라우드 서버를 선택할 수밖에 없습니다.

우리는 이번 발표가 개발자 편의성을 높이는 동시에 엔비디아의 클라우드 및 칩 인프라로 이어지는 강력한 락인 효과를 완성하는 영리한 전략이라고 판단합니다. 경쟁 하드웨어 제조사들이 따라잡아야 할 생태계의 격차가 한층 더 벌어진 셈입니다.