서비스나우·엔비디아, 기업용 에이전트 특화 추론 모델 'Apriel Nemotron 15B' 공개
서비스나우와 엔비디아가 기업용 AI 에이전트를 위한 오픈소스 추론 모델 'Apriel Nemotron 15B'를 선보였다. 엔비디아 NIM 마이크로서비스로 제공돼 지연 시간과 추론 비용을 낮춘 것이 특징이다. 업무 워크플로 데이터로 모델을 지속 튜닝할 수 있는 데이터 플라이휠 아키텍처도 함께 구축했다.
서비스나우와 엔비디아가 기업용 AI 에이전트를 위한 오픈소스 추론 모델 'Apriel Nemotron 15B'를 선보였다. 엔비디아 NIM 마이크로서비스로 제공돼 지연 시간과 추론 비용을 낮춘 것이 특징이다. 업무 워크플로 데이터로 모델을 지속 튜닝할 수 있는 데이터 플라이휠 아키텍처도 함께 구축했다.
엔비디아가 기업용 AI 동료 구축을 돕는 NeMo 마이크로서비스를 정식 출시했다. 미세조정 처리량을 최대 1.8배 개선하는 Customizer, 평가 및 가드레일 도구를 갖춰 데이터 플라이휠을 구축할 수 있다. AT&T와 시스코 등이 이미 도입했다.
엔비디아가 기업용 자율형 AI 에이전트 구축을 지원하는 Llama Nemotron 및 Cosmos Nemotron 모델군을 공개했다. 메타 Llama를 기반으로 경량화와 정렬을 거쳐 나노, 슈퍼, 울트라 세 가지 크기로 제공되며, 엣지 기기부터 클라우드까지 멀티 에이전트 워크플로를 손쉽게 구현할 수 있도록 돕는다.
엔비디아가 랭체인, 크루AI 등 파트너사들과 함께 기업용 '에이전틱 AI 블루프린트'를 발표했다. 복잡한 PDF 문서를 대화형 팟캐스트로 요약하거나 코드 문서를 자동화하는 등 다양한 다중 에이전트 워크플로를 사전 구성된 환경에서 손쉽게 구축할 수 있도록 돕는다.
엔비디아가 기업용 맞춤형 AI 구축 서비스인 ‘AI 파운드리’의 세부 사항을 공개했다. DGX Cloud와 NeMo 소프트웨어를 통해 Llama 3.1 등 오픈 모델을 기업 맞춤형으로 미세조정하고 NIM 마이크로서비스로 배포할 수 있도록 지원하며, 엔터프라이즈의 독자 AI 도입 장벽을 낮춘다.
엔비디아가 SIGGRAPH에서 통합 개발 툴킷 'NVIDIA AI Workbench'를 발표했다. 개발자는 로컬 RTX PC나 워크스테이션에서 허깅페이스 등 오픈소스 모델을 클릭 몇 번으로 미세조정하고 클라우드로 손쉽게 확장할 수 있다. 기업용 플랫폼 4.0도 함께 공개됐다.