輝達研發開源模型 Nemotron 4:規模翻倍,意在提振顯示卡需求
據報道 Nvidia 正在研發新一代開源模型 Nemotron 4,規模達到前代兩倍。該專案由副總裁 Bryan Catanzaro 帶領,旨在打造世界頂尖開源模型,將晶片需求拓展至少數前沿實驗室之外。輝達為此已承諾到 2031 年投入 280 億美元雲端計算支援訓練。
據報道 Nvidia 正在研發新一代開源模型 Nemotron 4,規模達到前代兩倍。該專案由副總裁 Bryan Catanzaro 帶領,旨在打造世界頂尖開源模型,將晶片需求拓展至少數前沿實驗室之外。輝達為此已承諾到 2031 年投入 280 億美元雲端計算支援訓練。
NVIDIA 釋出開源模型 Nemotron 3 Ultra。該模型總引數 550B、啟用引數 55B,採用 Mamba 與 Transformer 混合架構,吞吐量達同類開源模型 5 倍,能將智慧體任務成本降低最高 30%。官方同步推出了 4B 安全護欄模型及低延遲多語言語音模型。