Nvidia 发布个人 AI 超级电脑 Project Digits：单台能跑 2000 亿参数模型

以前想在本地跑个真正的大模型，要么得花几十万买多卡服务器，要么得忍受云端昂贵的租卡账单和网络延迟。

在 CES 2025 上，黄仁勋拿出了一个长得挺像 Mac Mini 的黑色小盒子。Nvidia 把它叫做 Project Digits，定位是一台「个人 AI 超级计算机」。

这台设备起售价 3000 美元，预计 5 月开售，它的目标很简单：让你在书桌上插上普通家用插座，就能跑起动辄几百亿甚至上千亿参数的模型。

桌面上的低功耗小怪兽

别看它体积小，里面的核心是 Nvidia 全新的 GB10 Grace Blackwell 超级芯片。

这颗芯片是 Nvidia 联手联发科一起打磨出来的，把一块 Blackwell 架构 GPU 和一颗 20 核的 Arm 架构 Grace CPU 塞在一起，中间走的是高速的 NVLink-C2C 互连技术。

它塞进了 128GB 的统一内存和最高 4TB 的闪存，在 FP4 精度下能爆发出每秒 1000 万亿次（1 Petaflop）的计算能力。

说白了，以前需要塞满整个机架、耗电惊人的大设备，现在靠着更先进制程和精度压缩，变成了桌面上一个小小的静音盒子。

单机跑 200B，两台拼出 405B

参数再好看，大家最关心的还是能跑什么级别的模型。

Nvidia 表示，单台 Project Digits 可以直接运行 2000 亿参数（200B）规模的模型，用来做原型设计、推理或者小规模微调完全够用。

如果你觉得不够，比如想啃下 Meta 开源的 Llama 3.1 405B 这种庞然大物，还可以把两台 Digits 串联起来，直接拉满 4050 亿参数。

这台设备预装了基于 Linux 的 DGX OS，吃的是整套 Nvidia AI 软件栈，PyTorch、Python、Jupyter 以及 NeMo 框架开箱即用。你既可以把它当作独立工作站，也能把它连在现有的 Windows 或 Mac 电脑上当算力副机。

为什么重要

对于个人开发者、高校实验室和小型 AI 团队来说，Project Digits 提供了一个过去几乎不存在的中间选项。

3000 美元确实不算便宜，但比起在公有云上长期租卡、担心数据泄露，或者自己攒一套吵闹又费电的四卡 4090 主机，这台机器在体积、功耗和软件适配上的优势非常明显。如果你平时需要频繁微调中等规模模型，或者在本地跑敏感代码，它的回本周期其实很快。

在行业层面，这看起来是 Nvidia 巩固自身护城河的又一步妙棋。通过联发科的能效设计，Nvidia 把顶级的 Grace Blackwell 架构搬到了桌面端，让开发者在本地写的代码，可以一键无缝推送到云端数据中心。这种软硬件的强绑定，会让竞争对手更难把开发者从 CUDA 生态中撬走。

不过隐患也不是没有。FP4 精度虽然速度快、省内存，但在复杂的长文本或数学推理任务中，会不会牺牲模型表现，还要等 5 月真机上手才能见分晓。另外，128GB 内存跑 200B 模型基本把显存吃满了，留给长上下文和并发的空间有多大，也是潜在的瓶颈。