엔비디아, 장기 실행 에이전트 특화 모델 '네모트론 3 울트라' 공개

Nemotron 3 Ultra는 장기 실행 자율 에이전트의 복잡한 추론과 워크플로 조율을 위해 엔비디아가 선보인 오픈소스 MoE 모델이다. 총 550B 파라미터 규모이지만 순전파 시에는 55B 파라미터만 활성화하며, 1M 토큰에 달하는 긴 컨텍스트 윈도를 지원한다.

도구 호출과 코드 수정을 수십 차례 반복하는 다중 턴 에이전트는 대화 기록이 쌓이면서 비용이 급증하고 목표를 벗어나기 쉽다. Nemotron 3 Ultra는 추론 처리량을 높이고 턴당 토큰 사용량을 줄여 에이전트 작업 비용을 최대 30%까지 낮추도록 설계되었다.

기술적 특징과 벤치마크

이 모델은 트랜스포머 단일 구조 대신 맘바(Mamba)와 트랜스포머의 하이브리드 아키텍처를 적용했다. 맘바 레이어가 긴 시퀀스를 빠른 속도로 처리하고, 트랜스포머 레이어가 대규모 컨텍스트 내부의 특정 정보를 정밀하게 검색해 낸다.

NVFP4 정밀도를 기본 지원해 단일 체크포인트로 엔비디아 암페어, 호퍼, 블랙웰 GPU를 모두 아우른다. 멀티 토큰 예측 기능과 맞물려 동급 오픈 모델 대비 5배 높은 처리량을 제공하며, 블랙웰 환경에서는 BF16 대비 GPU당 처리량이 대폭 향상된다.

100만 토큰 길이의 Ruler @1M 벤치마크에서 95%의 정확도를 기록해 Qwen3.5의 90%를 앞질렀으며, 256K가 한계인 GLM 5.1이나 Kimi K2.6보다 긴 문맥을 다룰 수 있다. 에이전트 생산성 지표인 PinchBench에서는 91%를 달성했고, SWE-bench Verified에서도 OpenHands나 Hermes 등 다양한 하네스 환경에서 65%~70.4%의 고른 점수를 나타냈다.

학습에는 10개 이상의 도메인별 교사 모델을 활용한 온폴리시 증류 방식을 사용했다. 이와 함께 23개 안전 카테고리를 평가하는 4B 가드레일 모델 'Nemotron 3.5 Content Safety'와 100ms 미만의 지연 시간으로 40여 개 언어를 지원하는 음성 모델 'Nemotron 3.5 ASR'도 동시 공개되었다.

하드웨어 요구 사항과 실행 방법

리눅스 재단(Linux Foundation)의 OpenMDW-1.1 라이선스를 채택해 가중치와 NeMo 학습 스크립트, 수천만 건의 학습 데이터 파이프라인을 제한 없이 공개했다.

총 파라미터가 550B에 달하므로 로컬 환경에서 구동하려면 고사양 엔터프라이즈 GPU 클러스터가 필수적이다. 클라우드 환경에서는 AWS SageMaker JumpStart를 통해 ml.p5en.48xlarge, ml.g7e.48xlarge 등의 인스턴스로 원클릭 배포가 가능하다.

추론 엔진으로는 vLLM, SGLang, TensorRT-LLM을 공식 지원하며 엔비디아 NIM 마이크로서비스로도 제공된다. 사전 테스트를 원하는 개발자는 build.nvidia.com 데모 페이지나 Perplexity Pro, OpenRouter를 통해 이용할 수 있다.

에이전트 실행 환경으로는 안전한 샌드박스를 제공하는 NVIDIA OpenShell과 설치 도구인 NemoClaw를 함께 제공해 Hermes Agent나 OpenClaw 기반 워크플로를 손쉽게 구축할 수 있다.

왜 중요한가

대규모 코드베이스를 다루거나 다단계 도구 호출을 수행하는 에이전트를 개발 중이라면 Nemotron 3 Ultra는 직접 도입을 검토해 볼 만한 선택지다. 55B 활성 파라미터로 속도와 추론 능력을 챙기면서 1M 토큰 컨텍스트를 제공해 장기 실행 에이전트의 안정성을 크게 높여준다.

다만 550B라는 총 파라미터 크기 탓에 4비트 양자화를 적용하더라도 독립 개발자나 스타트업이 자체 인프라에서 단독 호스팅하기는 여전히 부담스럽다. 현실적으로는 호스팅 API나 관리형 클라우드 엔드포인트를 활용하는 접근이 적합하다.

업계 전반으로 보면 엔비디아가 대형 모델뿐 아니라 증류 파이프라인, 안전 가드레일, 샌드박스 런타임까지 에코시스템 전체를 오픈소스로 풀었다는 점이 핵심이다. 오픈소스 에이전트 경쟁이 단발성 벤치마크 점수 경쟁에서 실제 가동 비용과 처리량 효율 중심의 실용 경쟁으로 전환되고 있음을 보여준다.