Nvidia 開源 Nemotron-Nano-9B-v2:單張 A10 能跑,思考過程一鍵開關
Nvidia 今日釋出開源小模型 Nemotron-Nano-9B-v2,專為單張 A10 GPU 最佳化。它採用 Mamba 與 Transformer 混合架構,速度提升最高達 6 倍;開發者能用 /think 或 /no_think 隨時開關推理思考,並自由設定思考 token 預算來平衡延遲與準確率。
Nvidia 今日釋出開源小模型 Nemotron-Nano-9B-v2,專為單張 A10 GPU 最佳化。它採用 Mamba 與 Transformer 混合架構,速度提升最高達 6 倍;開發者能用 /think 或 /no_think 隨時開關推理思考,並自由設定思考 token 預算來平衡延遲與準確率。