跳到正文
IFAI

大模型

英伟达研发开源模型 Nemotron 4:规模翻倍,意在提振显卡需求

首次发布 传播指数 47

据报道 Nvidia 正在研发新一代开源模型 Nemotron 4,规模达到前代两倍。该项目由副总裁 Bryan Catanzaro 带领,旨在打造世界顶尖开源模型,将芯片需求拓展至少数前沿实验室之外。英伟达为此已承诺到 2031 年投入 280 亿美元云计算支持训练。

英伟达在卖铲子之余,显然打算自己再造一把开源界最大的铲子。

据报道,英伟达正在研发新一代开源大模型 Nemotron 4。这款模型的参数规模至少达到 1 万亿,是其目前最大模型 Nemotron 3 Ultra 的两倍。该项目由英伟达副总裁 Bryan Catanzaro 亲自带队,目标很直接,就是正面叫板全球最顶尖的开源模型。

砸下 280 亿与盟友组局

为了支撑这种量级的模型训练,英伟达下手相当阔绰,直接把到 2031 年的云算力承诺拉高到原本的三倍,达到 280 亿美元。

更有意思的是它的打法。英伟达并没有关起门来单打独斗,而是攒了一个名为 Nemotron Coalition 的联盟。

在这个联盟里,Mistral、Cognition、Reflection AI 以及 Thinking Machines 等一众业内当红的初创公司都在其中,合力为 Nemotron 4 提供训练数据和构想。

为什么重要

英伟达自己下场做万亿参数开源模型,核心诉求并不是抢软件公司的饭碗,而是给自家的 GPU 拓宽销路。如果全世界能跑最顶级模型的只有 OpenAI 等极少数前沿实验室,英伟达的硬件需求就会被这几家客户绑架。把万亿级开源模型推向市场,等于把顶尖 AI 的门槛打下来,让更多公司加入大算力军备竞赛,进而撑起更广泛的算力消耗。

我们认为,拉来 Mistral 和 Cognition 这批明星团队结盟十分聪明,既补齐了模型训练急需的垂直数据,又顺手巩固了以 CUDA 和英伟达算力为核心的开发者阵营。但隐患也同样明显,当底层的芯片供应商亲自做出顶尖模型时,它那些自研闭源模型的核心大客户难免会多一层戒心。

来源 (1)

  1. [1]
    theinformation.com(在新标签页打开)原文theinformation.com

每日 AI 内容精选