NVIDIA 推出首款端側模型 Nemotron-4 4B：遊戲 NPC 可本地即時互動
本週 Gamescom 上，NVIDIA 宣佈數字人套件 NVIDIA ACE 迎來首款端側小語言模型 Nemotron-4 4B Instruct。該模型由 15B 模型蒸餾量化而來，視訊記憶體佔用極低且響應迅速，支援角色扮演與函式呼叫。最值得關注的是，它能直接在 RTX 電腦上本地執行，讓遊戲 NPC 無需雲端也能即時聽懂指令並互動。
本週 Gamescom 上，NVIDIA 宣佈數字人套件 NVIDIA ACE 迎來首款端側小語言模型 Nemotron-4 4B Instruct。該模型由 15B 模型蒸餾量化而來，視訊記憶體佔用極低且響應迅速，支援角色扮演與函式呼叫。最值得關注的是，它能直接在 RTX 電腦上本地執行，讓遊戲 NPC 無需雲端也能即時聽懂指令並互動。