NVIDIA 推出 Llama Nemotron Nano 4B:边缘端小模型,吞吐量提升 50%
NVIDIA 推出面向边缘设备的开源推理模型 Llama Nemotron Nano 4B。该模型针对编程、复杂数学和函数调用等场景优化,比 80 亿参数以内的同类模型吞吐量高出 50%,支持在 Jetson 和 RTX GPU 上部署,主打低成本混合推理。
NVIDIA 推出面向边缘设备的开源推理模型 Llama Nemotron Nano 4B。该模型针对编程、复杂数学和函数调用等场景优化,比 80 亿参数以内的同类模型吞吐量高出 50%,支持在 Jetson 和 RTX GPU 上部署,主打低成本混合推理。