Nvidia 开源 Nemotron-Nano-9B-v2:单张 A10 能跑,思考过程一键开关
Nvidia 今日发布开源小模型 Nemotron-Nano-9B-v2,专为单张 A10 GPU 优化。它采用 Mamba 与 Transformer 混合架构,速度提升最高达 6 倍;开发者能用 /think 或 /no_think 随时开关推理思考,并自由设置思考 token 预算来平衡延迟与准确率。
Nvidia 今日发布开源小模型 Nemotron-Nano-9B-v2,专为单张 A10 GPU 优化。它采用 Mamba 与 Transformer 混合架构,速度提升最高达 6 倍;开发者能用 /think 或 /no_think 随时开关推理思考,并自由设置思考 token 预算来平衡延迟与准确率。