Stability AI, 엔비디아 TensorRT로 SDXL 가속…H100서 이미지 생성 1.47초

고화질 이미지를 뽑아내는 성능은 입증됐지만, 그만큼 무거운 연산 비용이 발목을 잡았던 Stable Diffusion XL이 날개를 달았습니다.

Stability AI는 NVIDIA와의 협업을 통해 자사의 대표 텍스트-투-이미지 모델인 SDXL에 TensorRT 추론 최적화 프레임워크를 적용했다고 발표했습니다. 전 세계 사용자를 위해 변환된 ONNX 가중치도 함께 공개됐습니다.

효과는 상당합니다. NVIDIA H100 가속기 환경에서 성능이 두 배로 향상되어, 고해상도 이미지를 생성하는 데 걸리는 시간이 단 1.47초로 단축됐습니다.

GPU 체급이 높을수록 극대화되는 가속 효과

TensorRT는 NVIDIA GPU 하드웨어에 맞춰 딥러닝 모델의 연산 과정을 압축하고 최적화해 주는 전용 추론 엔진입니다.

Stability AI가 공개한 A10, A100, H100 벤치마크에 따르면, 최적화 전 기본 모델 대비 지연 시간과 처리량 모두에서 뚜렷한 격차가 벌어졌습니다.

지연 시간의 경우 A10 환경에서 13%, A100에서 26%, H100에서는 41% 빨라졌습니다.

동일 시간 동안 처리할 수 있는 양을 뜻하는 처리량 개선은 더 극적입니다. A10에서 20%, A100에서 33%, H100에서는 무려 70%가 향상됐습니다.

Stability AI는 여기서 멈추지 않고 8비트 정밀도 적용 등 후속 최적화를 더해 속도와 접근성을 계속 끌어올릴 계획이라고 덧붙였습니다.

왜 중요한가

매일 수많은 이미지를 생성해야 하는 AI 서비스 운영사나 개발자에게 이번 업데이트는 곧바로 서버 비용 절감으로 이어집니다.

초당 처리량이 70% 늘고 생성 속도가 1.5초 안쪽으로 들어오면, 기존과 같은 GPU 클라우드 예산으로도 거의 두 배에 달하는 트래픽을 감당할 수 있기 때문입니다.

Midjourney 같은 폐쇄형 서비스와의 경쟁 구도에서도 오픈소스 진영인 SDXL의 입지가 크게 강화됐습니다. 모델의 자유도뿐 아니라 엔터프라이즈 환경에서의 상용화 속도까지 갖추게 됐기 때문입니다.

독자적인 최적화 엔진을 개발하기보다 NVIDIA의 인프라를 전폭적으로 활용해 즉각적인 성능을 확보한 Stability AI의 선택은 매우 실용적이라고 평가할 수 있습니다.

다만 TensorRT 기술의 특성상 NVIDIA 하드웨어에 종속될 수밖에 없으며, 고성능 엔터프라이즈 GPU가 아닌 일반 소비자용 환경에까지 이 수준의 혜택이 닿으려면 추가적인 8비트 경량화가 완전히 정착되기를 기다려야 합니다.