서비스나우·엔비디아, 기업용 에이전트 특화 추론 모델 'Apriel Nemotron 15B' 공개

Apriel Nemotron 15B는 서비스나우와 엔비디아가 기업용 자율 AI 에이전트를 위해 함께 개발한 150억 파라미터(15B) 규모의 오픈소스 추론 모델입니다.

엔터프라이즈 환경에서 지연 시간과 추론 비용을 낮추면서도 복잡한 업무를 처리할 수 있는 추론 성능을 작은 크기 안에 담아낸 것이 핵심입니다.

무엇을 할 수 있나

AI 에이전트가 사람의 지속적인 개입 없이 업무를 직접 수행하려면 스스로 상황을 파악하고 다음 행동을 결정하는 추론 능력이 필수적입니다.

공개된 벤치마크 테스트 결과에 따르면, Apriel Nemotron 15B는 동급 모델 범주에서 높은 성과를 보여 실제 에이전틱 워크플로를 수행하기에 적합한 역량을 입증했습니다.

이 모델은 엔비디아 NeMo 프레임워크 기반으로 훈련되었으며, 엔비디아 Llama Nemotron 사후 학습 데이터셋과 서비스나우의 도메인 특화 비즈니스 데이터가 함께 활용되었습니다.

구동 방식과 특징

Apriel Nemotron 15B는 엔비디아 NIM 마이크로서비스 형태로 제공되어, 엔비디아 GPU 인프라 위에서 저비용으로 빠르게 구동할 수 있습니다.

양사는 모델 발표와 함께 '공동 데이터 플라이휠 아키텍처'도 함께 선보였습니다.

서비스나우의 Workflow Data Fabric과 엔비디아 NeMo 마이크로서비스를 결합해, 에이전트와의 상호작용 데이터를 모델 재학습으로 환류시키는 구조입니다.

보안 가드레일을 기본 탑재해 고객 데이터를 안전하게 보호하면서도, 각 기업의 맥락을 정확히 이해하는 고도로 개인화된 에이전트를 지속적으로 만들어갈 수 있도록 지원합니다.

왜 중요한가

거대 추론 모델의 높은 API 비용과 지연 시간 때문에 사내 에이전트 도입을 망설이던 조직이라면 바로 검토해볼 만합니다. 15B 크기로 NIM 마이크로서비스를 활용하면 사내 인프라에서 효율적으로 자율 에이전트를 굴릴 수 있습니다.

초거대 모델 만능주의에서 벗어나, 특화 데이터로 학습된 경량 추론 모델과 피드백 플라이휠을 결합하는 엔터프라이즈 AI의 현실적인 방향성을 잘 보여줍니다. 다만 플라이휠이 제대로 돌아가려면 기업 내부에 정제된 업무 워크플로 데이터가 이미 갖춰져 있어야 합니다.