跳到正文
IFAI

大模型

輝達研發開源模型 Nemotron 4:規模翻倍,意在提振顯示卡需求

首次發布 傳播指數 47

據報道 Nvidia 正在研發新一代開源模型 Nemotron 4,規模達到前代兩倍。該專案由副總裁 Bryan Catanzaro 帶領,旨在打造世界頂尖開源模型,將晶片需求拓展至少數前沿實驗室之外。輝達為此已承諾到 2031 年投入 280 億美元雲端計算支援訓練。

輝達在賣鏟子之餘,顯然打算自己再造一把開源界最大的鏟子。

據報道,輝達正在研發新一代開源大模型 Nemotron 4。這款模型的引數規模至少達到 1 萬億,是其目前最大模型 Nemotron 3 Ultra 的兩倍。該專案由輝達副總裁 Bryan Catanzaro 親自帶隊,目標很直接,就是正面叫板全球最頂尖的開源模型。

砸下 280 億與盟友組局

為了支撐這種量級的模型訓練,輝達下手相當闊綽,直接把到 2031 年的雲算力承諾拉高到原本的三倍,達到 280 億美元。

更有意思的是它的打法。輝達並沒有關起門來單打獨鬥,而是攢了一個名為 Nemotron Coalition 的聯盟。

在這個聯盟裡,Mistral、Cognition、Reflection AI 以及 Thinking Machines 等一眾業內當紅的初創公司都在其中,合力為 Nemotron 4 提供訓練資料和構想。

為什麼重要

輝達自己下場做萬億引數開源模型,核心訴求並不是搶軟體公司的飯碗,而是給自家的 GPU 拓寬銷路。如果全世界能跑最頂級模型的只有 OpenAI 等極少數前沿實驗室,輝達的硬體需求就會被這幾家客戶綁架。把萬億級開源模型推向市場,等於把頂尖 AI 的門檻打下來,讓更多公司加入大算力軍備競賽,進而撐起更廣泛的算力消耗。

我們認為,拉來 Mistral 和 Cognition 這批明星團隊結盟十分聰明,既補齊了模型訓練急需的垂直資料,又順手鞏固了以 CUDA 和輝達算力為核心的開發者陣營。但隱患也同樣明顯,當底層的晶片供應商親自做出頂尖模型時,它那些自研閉源模型的核心大客戶難免會多一層戒心。

來源 (1)

  1. [1]
    theinformation.com(在新分頁開啟)原文theinformation.com

每日 AI 內容精選