퍼플렉시티, 엔비디아 네모트론 3 슈퍼 전면 도입: 앱·API·컴퓨터 지원

여러 AI 에이전트가 협업하는 멀티 에이전트 환경을 만들어본 개발자라면 대화 이력이 쌓이며 맥락을 잃어버리는 컨텍스트 폭발과, 단순한 하위 작업에도 무거운 추론 모델을 돌려야 하는 생각 비용 문제에 자주 부딪혔을 것입니다.

NVIDIA가 이러한 문제를 해결하기 위해 오픈 가중치 모델인 Nemotron 3 Super를 공개했습니다. 전체 파라미터는 120B 규모이지만 추론 시점에는 12B만 활성화되는 MoE 구조를 채택했습니다. 발표와 동시에 Perplexity는 일반 검색 앱, Agent API, 그리고 오케스트레이션 플랫폼인 Perplexity Computer를 포함한 전체 제품군에 이 모델을 즉시 도입했습니다.

Mamba와 Transformer를 결합한 하이브리드 MoE

Nemotron 3 Super는 구조적으로 파격적인 설계를 시도했습니다. 긴 시퀀스를 선형 복잡도로 가볍게 처리하는 Mamba-2 레이어와, 정밀한 연관 검색을 담당하는 Transformer 어텐션 레이어를 번갈아 배치하고 이를 MoE 방식으로 묶었습니다.

여기에 Latent MoE라는 신기술을 도입했습니다. 토큰 임베딩을 전문가 네트워크로 바로 보내지 않고 압축된 잠재 공간으로 투영한 뒤 계산을 수행합니다. 덕분에 동일한 연산 비용으로 4배 더 많은 전문 네트워크를 호출할 수 있게 되었습니다.

여러 단어를 동시에 예측하는 MTP 기술과 Blackwell 플랫폼에 최적화된 네이티브 NVFP4 학습이 결합되어, 이전 세대 Nemotron Super 대비 처리량이 5배 이상 증가했습니다. B200 칩에서는 H100의 FP8 대비 최대 4배 빠른 추론 속도를 냅니다. 에이전트 전용 벤치마크인 PinchBench에서는 85.6%를 기록했으며, 100만 토큰의 컨텍스트 창을 지원합니다.

Perplexity 전체 제품군에 탑재

Perplexity는 이 모델을 발 빠르게 상용 환경에 올렸습니다. 일반 사용자는 웹 검색에 바로 활용할 수 있고, 개발자는 Agent API를 통해 자체 파이프라인에 연결할 수 있습니다. 복합 작업을 처리하는 Perplexity Computer에서는 상호 조율되는 20개 모델 중 하나로 투입됩니다.

Perplexity 외에도 CodeRabbit, Factory, Greptile 같은 개발 도구들이 코드 분석 비용을 낮추기 위해 도입을 결정했습니다. 엔터프라이즈 시장에서는 Palantir, Siemens, Cadence 등이 반도체 설계와 사이버 보안, 공장 자동화 워크플로에 적용하고 있습니다.

NVIDIA는 모델 가중치뿐 아니라 10조 개 이상의 학습 토큰과 15개 강화학습 환경 레시피까지 오픈 라이선스로 완전히 개방했습니다.

왜 중요한가

자율형 에이전트 시스템을 구축 중인 팀이라면 지금 즉시 테스트해 볼 가치가 충분합니다. 100만 토큰을 수용하면서도 활성 파라미터가 12B에 불과해, 방대한 코드베이스나 대용량 보고서를 문맥 분할 없이 한 번에 밀어 넣고도 빠른 응답 속도를 유지할 수 있기 때문입니다.

업계 전반으로 보면 NVIDIA가 칩 판매를 넘어 하드웨어와 소프트웨어 아키텍처의 결합을 한층 강화하고 있음을 보여줍니다. Mamba와 Transformer의 혼합 구조를 Blackwell 전용 포맷인 NVFP4에 정밀하게 맞물리게 함으로써, 경쟁 하드웨어로의 이탈을 막고 자사 최신 칩 구매를 유도하는 구조를 짰습니다.

단순 챗봇 점수 경쟁에서 벗어나 에이전트 시스템의 최대 병목인 스루풋 문제를 정면 돌파했다는 점에서 매우 실용적인 접근으로 평가됩니다. 다만 4배에 달하는 성능 개선 수치가 Blackwell 하드웨어를 강하게 전제하고 있는 만큼, 기존 H100 장비를 사용하는 개발 환경에서는 기대했던 효율 향상 폭을 온전히 누리기 어려울 수 있다는 점을 감안해야 합니다.