NVIDIA 釋出 Nemotron 3.5:120B 多模態吞吐快 5 倍,端側模型進 RTX
NVIDIA 釋出 Nemotron 3.5 系列開源模型。120B 引數的 Super VL 專為智慧體打造,多模態吞吐量達同類 5 倍;同時推出的 Bolt 74B-A9B 原生 2-bit 量化,可在 24GB 視訊記憶體裝置上本地執行。這意味著企業和個人能把複雜智慧體工作流搬到本地部署。
NVIDIA 釋出 Nemotron 3.5 系列開源模型。120B 引數的 Super VL 專為智慧體打造,多模態吞吐量達同類 5 倍;同時推出的 Bolt 74B-A9B 原生 2-bit 量化,可在 24GB 視訊記憶體裝置上本地執行。這意味著企業和個人能把複雜智慧體工作流搬到本地部署。