엔비디아, Nemotron-Nano-9B-v2 오픈 모델 공개: 추론 모드 On/Off 토글 지원
엔비디아가 단일 A10 GPU 환경에 맞춘 경량 오픈 모델 Nemotron-Nano-9B-v2를 공개했습니다. 맘바와 트랜스포머 하이브리드 아키텍처를 도입해 최대 6배 빨라졌으며, 개발자는 /think 명령어로 추론 과정을 켜고 끄거나 토큰 예산을 설정해 응답 속도를 조율할 수 있습니다.
엔비디아가 단일 A10 GPU 환경에 맞춘 경량 오픈 모델 Nemotron-Nano-9B-v2를 공개했습니다. 맘바와 트랜스포머 하이브리드 아키텍처를 도입해 최대 6배 빨라졌으며, 개발자는 /think 명령어로 추론 과정을 켜고 끄거나 토큰 예산을 설정해 응답 속도를 조율할 수 있습니다.