엔비디아, 온디바이스 SLM '네모트론-4 4B' 공개: RTX PC서 게임 NPC와 실시간 대화
엔비디아가 게임스컴에서 디지털 휴먼 기술 스위트 'NVIDIA ACE'에 첫 온디바이스 소형 언어 모델 '네모트론-4 4B 인스트럭트'를 추가했다. 15B 모델에서 지식 증류 및 양자화되어 메모리 점유율을 대폭 낮췄다. 이용자의 RTX PC에서 로컬로 구동되어 '메카 브레이크' 등 게임 속 NPC가 클라우드 없이도 지연 시간 없이 자연스럽게 플레이어의 명령을 이해하고 반응한다.