본문으로 건너뛰기
IFAI

AI 도구

스태빌리티 AI와 엔비디아, SD3.5 NIM 출시… 속도 1.8배 향상

게시 확산 지수 35

스태빌리티 AI가 엔비디아와 협력해 기업용 '스테이블 디퓨전 3.5 NIM' 마이크로서비스를 출시했다. TensorRT 최적화를 통해 H100 GPU에서 파이토치 대비 1.8배 빠른 생성 속도를 지원하며, 대형 모델과 주요 컨트롤넷을 단일 컨테이너로 통합 제공한다.

스태빌리티 AI와 엔비디아, SD3.5 NIM 출시… 속도 1.8배 향상
이미지: stability.ai

기업 환경에서 오픈소스 이미지 생성 모델을 직접 호스팅할 때 가장 큰 걸림돌은 최적화 작업과 긴 추론 시간, 그리고 제어용 모델들을 따로 띄워야 하는 복잡한 배포 구조입니다.

Stability AI가 8월 12일 엔비디아와 손잡고 자사 최신 모델인 Stable Diffusion 3.5를 위한 엔비디아 NIM 마이크로서비스를 공개했습니다. 복잡한 세팅 없이 바로 엔터프라이즈 환경에 배포할 수 있는 사전 구성 컨테이너입니다.

해당 서비스는 build.nvidia.com에서 제공되며, 가중치는 이전과 동일하게 허깅페이스에서 내려받을 수 있습니다.

생성 시간 1.8배 단축과 단일 컨테이너 통합

가장 직접적인 변화는 추론 성능 향상입니다.

엔비디아 H100 GPU 테스트 결과, 기존 표준 파이토치 환경에서 6,800밀리초가 걸리던 SD3.5 Large 모델의 생성 시간이 TensorRT 최적화 NIM에서는 3,700밀리초로 단축되었습니다. 속도가 약 1.8배 빨라진 셈입니다.

배포 구조도 눈에 띄게 단순해졌습니다.

이번 컨테이너 하나에는 SD3.5 Large 기본 모델뿐 아니라 구도 제어에 필수적인 Depth와 Canny ControlNet이 함께 패키징되어 있습니다. 각 모델을 별도의 서버 환경에 분산 배포할 필요 없이 한 번에 제어 파이프라인을 구축할 수 있습니다.

하드웨어는 엔비디아의 엔터프라이즈 및 데이터센터용 에이다와 최신 블랙웰 아키텍처 GPU를 지원하며, 향후 더 많은 모델 제품군으로 지원을 넓힐 예정입니다.

라이선스는 기존 커뮤니티 정책을 따릅니다. 연 매출 100만 달러 미만 조직은 연구 및 상업적 목적으로 무료 사용이 가능하며, 그 이상의 대기업은 별도 엔터프라이즈 계약을 맺어야 합니다.

왜 중요한가

대규모 사내 디자인 워크플로나 마케팅 이미지 생성 파이프라인을 운영하려는 개발팀에게는 인프라 관리 비용을 크게 덜어주는 변화입니다.

생성 시간이 7초에 달하면 여러 파이프라인을 연결하는 복합 워크플로를 실시간으로 돌리기 어렵습니다. 3.7초 수준으로 내려오고 주요 컨트롤넷까지 단일 컨테이너로 묶이면서, 실제 프로덕션 서비스에 연동할 만한 반응 속도를 확보하게 되었다고 봅니다.

엔비디아 입장에서도 기업 고객이 자사 고성능 데이터센터 GPU를 계속 쓰도록 유도하는 강력한 락인 장치로 NIM을 활용하고 있습니다. 하드웨어만 파는 것이 아니라 배포 파이프라인 자체를 자사 환경에 최적화된 규격으로 굳히려는 영리한 접근입니다.

다만 최신 에이다나 블랙웰 등 고가 엔터프라이즈 칩셋을 요구하기 때문에 초기 인프라 비용 부담은 여전합니다. 이미 클라우드 인프라를 갖춘 기업이라면 기존 배포 방식을 전환해 즉시 효율을 개선할 만합니다.

출처 (1)

  1. [1]
    stability.ai(새 탭에서 열림)원문stability.ai

매일 AI 콘텐츠 픽