NVIDIA 发布 Rubin CPX：专攻百万级 Token 上下文与视频推理

生成一段高画质视频，或者让 AI 啃下包含几万行代码的完整工程，背后的算力账单往往让人肉疼。在实际跑任务时，真正卡脖子的经常不是算力上限，而是数据在不同硬件之间倒腾带来的延迟和损耗。

NVIDIA 推出 Rubin CPX 芯片系统。这套系统专为大规模 AI 推理任务设计，核心看点就是专攻处理超过 100 万 Token 的超长上下文工作负载。

把三样活塞进同一个平台

在此之前，处理复杂的 AI 视频生成等任务往往需要跨多块芯片协作。先由专门的模块进行视频解码，再把数据传给 GPU 跑推理，最后还要靠外部单元完成视频编码。

这种多芯片各司其职的做法看似合理，但芯片之间来回倒腾数据不仅拖慢了整体速度，还会带来严重的协同损耗。

Rubin CPX 的做法很直接，它把视频解码、编码和模型推理整合到了单一平台上。

按照设定，这套系统主要针对两大典型负载：一个是视频生成，另一个是软件编程开发。在这类场景中，模型处理的代码库或视频帧序列动辄需要吞吐每小时上百万 Token 的数据量。

把原本分散的流水线收拢在一张平台上，说白了就是为了砍掉多芯片之间传输的内耗，让海量上下文在推理时不再卡壳。

为什么重要

对开发者和企业来说，长上下文和多模态应用正在迅速落地。无论是让 AI 读懂整套代码库还是批量生成长视频，超百万 Token 的推理开销都极为惊人。如果单一硬件平台能一口气吞下编解码和推理，不仅能降低系统延迟，也能让数据中心的机架部署省去很多复杂的布线和调度。

对芯片行业来说，竞争重心正在从大模型训练迅速转向落地阶段的超大规模推理。做专用芯片的对手很多，但 NVIDIA 选择直接把视频编解码这类周边但在多模态中极重的任务融进推理平台，抓住了视频生成走向工业化生产的关键瓶颈。

我们认为，这一步走得相当务实。与其在传统架构上继续硬堆带宽，不如把流水线上的碎活直接打包在一起。不过看起来这套高度集成的方案到底能帮客户省下多少钱，最终还是要看它量产后的实际能效比与总体拥有成本。