엔비디아, 에이전트 특화 오픈 모델 '네모트론 3 슈퍼' 공개…처리량 5배 향상

Nemotron 3 Super는 엔비디아가 복잡한 자율형 AI 에이전트 시스템을 위해 선보인 오픈소스 하이브리드 대형 모델입니다. 전체 파라미터는 1200억 개에 달하지만 추론 시에는 120억 개만 활성화되며, 100만 토큰에 이르는 초대형 컨텍스트 창을 기본 지원합니다.

이 모델은 멀티 에이전트 환경에서 발생하는 고질적인 문제인 컨텍스트 폭발과 추론 비용 부담을 정면으로 겨냥했습니다. 에이전트끼리 도구 호출 결과와 중간 사고 과정을 반복 전송하면 일반 대화보다 최대 15배 많은 토큰이 소모됩니다. Nemotron 3 Super는 처리량을 이전 세대보다 최대 5배 높이고 정확도 역시 최대 2배 끌어올렸습니다.

어떻게 만들었나

거대 모델의 두뇌를 유지하면서 빠른 속도를 내는 비결은 세 가지 아키텍처 혁신에 있습니다.

우선 맘바와 트랜스포머의 하이브리드 백본입니다. 선형 복잡도를 가진 Mamba-2 레이어가 시퀀스 처리의 대부분을 맡아 메모리와 연산 효율을 4배 개선했고, 정밀한 사실 인출이 필요한 핵심 위치에만 트랜스포머 어텐션 레이어를 배치해 100만 토큰 환경에서도 정보 누락을 막았습니다.

새롭게 도입된 Latent MoE 기술도 핵심입니다. 토큰을 전문가 레이어로 보내기 전에 저차원 잠재 공간으로 압축 처리하여, 기존 단일 전문가를 호출하던 연산 비용으로 4명의 전문가를 동시에 가동합니다.

여기에 한 번의 순방향 연산으로 여러 토큰을 동시에 예측하는 멀티 토큰 예측을 더해 생성 속도를 3배 높였습니다. 최신 블랙웰 플랫폼에서 네이티브 NVFP4 정밀도로 실행할 경우, 호퍼 FP8 대비 정확도 저하 없이 최대 4배 빠른 추론 속도를 냅니다.

벤치마크와 공개 범위

성능 면에서는 아티피셜 애널리시스 벤치마크에서 동일 체급 오픈 모델 중 효율과 정확도 종합 1위를 차지했습니다. 복합 리서치 역량을 측정하는 DeepResearch Bench와 DeepResearch Bench II에서 모두 1위에 올랐으며, 오픈클로 에이전트 벤치마크인 PinchBench에서도 85.6%를 기록했습니다.

공개 수준도 파격적입니다. 관대한 라이선스 아래 모델 가중치가 공개되었으며, 10조 개 이상의 토큰으로 구성된 학습 데이터 파이프라인과 강화학습 환경 15종 및 평가 레시피 전체가 함께 배포되었습니다.

지금 바로 build.nvidia.com에서 웹 기반으로 테스트해 볼 수 있으며 허깅페이스와 오픈라우터, 퍼플렉시티에서도 제공됩니다. 온프레미스나 클라우드 구축을 위한 NVIDIA NIM 마이크로서비스 패키지도 함께 지원됩니다.

왜 중요한가

전체 소스코드 저장소를 통째로 올려두고 동작하는 개발 에이전트나 대규모 보안 오케스트레이션을 구축 중이라면 지금 당장 테스트해 볼 가치가 충분합니다. 100만 토큰의 상태를 유지하면서 목표가 흐트러지는 현상을 구조적으로 차단해 주기 때문입니다.

엔비디아의 노림수도 분명합니다. 오픈소스로 최고 수준의 에이전트 모델을 풀되, 자사의 최신 블랙웰 아키텍처에서 가장 강력한 효율을 내도록 설계해 하드웨어 락인을 공고히 하고 있습니다. 폐쇄형 프론티어 API의 가격과 속도에 부담을 느끼던 기업들에게 강력한 오픈 대안이 생겼습니다.