跳到正文
IFAI

AI工具

Perplexity 全线接入 NVIDIA Nemotron 3 Super:涵盖 App、API 与 Computer

首次发布 传播指数 49

Perplexity 宣布在其产品线中全面接入 NVIDIA 的 Nemotron 3 Super 模型。该模型已同步上线 Perplexity 主应用、Agent API 以及 Perplexity Computer,无论是日常搜索用户还是调用 API 搭建智能体的工作流开发者均可直接选用。

Perplexity 全线接入 NVIDIA Nemotron 3 Super:涵盖 App、API 与 Computer
图:blogs.nvidia.com

如果你搭过多智能体系统,大概率被两件事折磨过:一是上下文爆炸,几个 Agent 互相扔中间结果,跑上几轮就把上下文撑爆,最后连最初的目标都忘了;二是所谓的「思考税」,哪怕只是个提取字段的简单子任务,也得拉着昂贵的庞大模型跑一通,慢不说,账单还贵得肉疼。

NVIDIA 刚刚发布的开源模型 Nemotron 3 Super,就是冲着这两个痛点来的。它的总参数有 120B,但每次推理只有 12B 参数处于激活状态。紧接着,Perplexity 宣布把这个模型接入全线产品,覆盖主搜索应用、Agent API,以及用来协调多种 AI 的新平台 Perplexity Computer。

把 Mamba 和 Transformer 揉进同一个 MoE

为了干掉思考税,Nemotron 3 Super 在架构上做了一套相当激进的混血设计。它把负责长序列处理的 Mamba-2 状态空间模型,和负责高精度联想召回的 Transformer 注意力层交替堆叠,再套上 MoE 架构。官方给出的数据是,它的吞吐量达到上一代 Nemotron Super 的 5 倍以上,内存和算力效率提升了 4 倍。

更有意思的是它用的「Latent MoE」技术。传统的 MoE 会把全维度的向量直接扔给专家网络,专家一多就容易成为算力瓶颈。NVIDIA 选择在路由之前,先把 Token 向量压缩进一个低维的潜空间里,让专家在压缩维度里计算,算完再投影回去。这样一来,花同样的推理代价,系统可以调用的专家数量直接翻了 4 倍。

再加上一次预测多个 Token 的 MTP 技术,以及专门针对 Blackwell 架构优化的原生 NVFP4 预训练,让它在 B200 上的推理速度比 H100 上的 FP8 快了 4 倍,同时还不掉精度。解决上下文爆炸的则是一个原生的 1M 上下文窗口,在评估自主 Agent 表现的 PinchBench 基准测试里,Nemotron 3 Super 拿下了 85.6% 的综合成绩。

Perplexity 第一时间全家桶上线

Perplexity 这次跟进得非常快。普通用户在主搜索界面就能挑它用,开发者可以通过 Agent API 调用,而在 Perplexity 专门用来编排复杂任务的 Perplexity Computer 里面,Nemotron 3 Super 成了协同作战的 20 个编排模型之一。

除了 Perplexity,开发辅助工具 CodeRabbit、Factory、Greptile 也在把它接进代码审查与开发流程,用来降低长代码推理的调用成本。而在企业端,Palantir、Siemens、Cadence 和 Dassault Systèmes 已经准备把它拿去跑半导体设计、制造和工业自动化的工作流。

更彻底的是,NVIDIA 这次把权重、超过 10 万亿 Token 的训练数据集、包含 15 个强化学习环境的完整训练菜谱全都开源了,允许开发者直接拉回自己的本地工作站或私有云里魔改部署。

为什么重要

对开发者和企业来说,Nemotron 3 Super 几乎是目前最值得立刻拿来做 Agent 原型测试的开源底座。以前做多智能体协作,最头疼的就是吞吐和成本之间的死结:便宜的小模型记不住超长上下文、经常偏离任务,而大参数推理模型又贵又慢。现在一个激活参数仅 12B 的模型,顶着 1M 的上下文还能跑出高吞吐,直接把代码库全量分析、大批财报并行研读的门槛拉平了。

从行业竞争来看,NVIDIA 显然在把战场从单纯的「卖卡」引向「全栈定义 Agent 标准」。通过把自己的 Blackwell 硬件、NVFP4 低精度格式,与 Mamba-Transformer 混合架构深度绑定,它不仅是在开源社区给 Llama 这类纯 Transformer 架构施加压力,更是在用一套软硬一体的高吞吐标准,把下游的 AI 应用公司牢牢圈在自己的硬件生态里。

我们认为,NVIDIA 这一步走得极其精明。它没有跟纯模型厂商卷那些虚高的通用评测分,而是专挑多智能体系统在工程落地时最痛的环节下手。不过也有一个现实门槛摆在面前:它最极致的性能和 4 倍提速深度依赖 Blackwell 架构的 NVFP4 支持,如果你手里还是上一代硬件,实际能榨出来的效能提升,恐怕会打上不少折扣。

来源 (3)

  1. [1]
    x.com(在新标签页打开)原文x.com
  2. [2]
    developer.nvidia.com(在新标签页打开)报道developer.nvidia.com
  3. [3]
    blogs.nvidia.com(在新标签页打开)报道blogs.nvidia.com

每日 AI 内容精选