엔비디아 TensorRT-LLM 오픈소스 공개: H100 추론 최대 8배 향상

TensorRT-LLM은 대규모 언어 모델(LLM)의 추론 속도를 높이고 운영 비용을 낮추기 위해 엔비디아가 공개한 오픈소스 라이브러리다. 복잡한 병렬 처리와 메모리 최적화 기술을 파이썬 API로 감싸, 개발자가 C++이나 CUDA 코드를 직접 다루지 않고도 GPU 성능을 끝까지 끌어낼 수 있도록 돕는다.

무엇을 할 수 있는가

LLM 서비스 운영에서 가장 큰 병목은 막대한 연산 비용과 GPU 메모리 점유율이다. TensorRT-LLM은 이러한 문제를 해결해 처리량을 대폭 높이고 클라우드 인프라 유지 비용을 획기적으로 낮춘다.

CNN/Daily Mail 데이터셋을 활용한 텍스트 요약 벤치마크에 따르면, FP8 정밀도와 동적 배치 처리를 적용한 H100 GPU는 기존 A100의 파이토치 환경 대비 최대 8배의 처리량을 달성했다. 널리 쓰이는 라마 2 모델에서도 A100 대비 4.6배 빠른 추론 속도를 기록했다.

처리량 증가는 곧바로 인프라 비용 절감으로 이어진다. GPT-J 6B 같은 소형 모델 테스트에서 A100 대비 총소유비용(TCO)은 5.3배, 전력 소비는 5.6배 줄어들었다. 700억 개 파라미터를 가진 라마 2 70B 모델에서도 TCO가 3배 절감되고 에너지 소비가 3.2배 감소했다.

지원 모델 폭도 넓다. 메타의 라마 2를 포함해 GPT-2, GPT-3, Falcon, Mosaic MPT, BLOOM 등 주요 오픈소스 모델 수십 종을 기본 지원한다.

어떻게 동작하는가

과거 라마 2 70B 같은 대형 모델을 여러 대의 GPU에서 서빙하려면 개발자가 모델 가중치를 일일이 쪼개고 통신 코드를 작성해야 했다. TensorRT-LLM은 텐서 병렬 처리를 내장하여 고속 NVLink로 연결된 여러 GPU나 서버에 모델을 자동으로 분산 배치한다.

또 다른 핵심 기술은 인플라이트 배칭(in-flight batching)이다. LLM은 요청마다 생성하는 텍스트 길이가 제각각이어서, 기존 방식대로 묶어서 처리하면 긴 응답이 끝날 때까지 GPU 자원이 낭비되는 문제가 있었다. 인플라이트 배칭은 생성이 끝난 요청을 즉시 내보내고 새 요청을 바로 채워 넣어 H100 기준 처리량을 2배 이상 끌어올린다.

메모리 측면에서는 호퍼 아키텍처의 트랜스포머 엔진을 활용해 코드 수정 없이 가중치를 FP8 형식으로 변환한다. 기존 INT8이나 INT4에 비해 정확도 손실을 최소화하면서 메모리 사용량을 크게 줄여준다. 여기에 FlashAttention과 PagedAttention 같은 최신 커널 최적화도 기본 탑재됐다.

데이터브릭스의 엔지니어링 부사장 나빈 라오는 MosaicML 추론 서비스에 TensorRT-LLM을 도입하는 과정이 매우 수월했으며, 절감된 비용을 고객에게 고스란히 돌려줄 수 있었다고 밝혔다.

시작하는 방법

하드웨어는 엔비디아 암페어, 에이다 러브레이스, 호퍼 아키텍처 GPU를 지원한다.

현재 깃허브의 NVIDIA/TensorRT-LLM 저장소에 전면 오픈소스로 공개되어 있으며 엔비디아 NeMo 프레임워크에서도 활용할 수 있다. 파이썬 환경에 익숙한 엔지니어라면 모듈형 API를 사용해 손쉽게 최적화 파이프라인을 구축할 수 있다.

왜 중요한가

우리는 TensorRT-LLM이 엔터프라이즈의 독자적인 LLM 인프라 구축 문턱을 크게 낮췄다는 점에서 의미가 크다고 본다. 그동안 소수 빅테크의 전유물이었던 고난도 커널 튜닝을 누구나 오픈소스 형태로 가져다 쓸 수 있게 되었기 때문이다.

업계 관점에서는 엔비디아가 하드웨어 공급에 그치지 않고 추론 소프트웨어 생태계까지 장악하며 경쟁사들이 넘기 힘든 CUDA 기반의 강력한 해자를 다졌음을 보여준다. 현재 A100이나 H100 기반으로 LLM 서빙 환경을 운영하고 있다면 지체 없이 도입을 검토할 만하다.