NVIDIA 釋出 Rubin CPX：專攻百萬級 Token 上下文與影片推理

生成一段高畫質影片，或者讓 AI 啃下包含幾萬行程式碼的完整工程，背後的算力賬單往往讓人肉疼。在實際跑任務時，真正卡脖子的經常不是算力上限，而是資料在不同硬體之間倒騰帶來的延遲和損耗。

NVIDIA 推出 Rubin CPX 晶片系統。這套系統專為大規模 AI 推理任務設計，核心看點就是專攻處理超過 100 萬 Token 的超長上下文工作負載。

把三樣活塞進同一個平臺

在此之前，處理複雜的 AI 影片生成等任務往往需要跨多塊晶片協作。先由專門的模組進行影片解碼，再把資料傳給 GPU 跑推理，最後還要靠外部單元完成影片編碼。

這種多晶片各司其職的做法看似合理，但晶片之間來回倒騰資料不僅拖慢了整體速度，還會帶來嚴重的協同損耗。

Rubin CPX 的做法很直接，它把影片解碼、編碼和模型推理整合到了單一平臺上。

按照設定，這套系統主要針對兩大典型負載：一個是影片生成，另一個是軟體程式設計開發。在這類場景中，模型處理的程式碼庫或影片幀序列動輒需要吞吐每小時上百萬 Token 的資料量。

把原本分散的流水線收攏在一張平臺上，說白了就是為了砍掉多晶片之間傳輸的內耗，讓海量上下文在推理時不再卡殼。

為什麼重要

對開發者和企業來說，長上下文和多模態應用正在迅速落地。無論是讓 AI 讀懂整套程式碼庫還是批次生成長影片，超百萬 Token 的推理開銷都極為驚人。如果單一硬體平臺能一口氣吞下編解碼和推理，不僅能降低系統延遲，也能讓資料中心的機架部署省去很多複雜的佈線和排程。

對晶片行業來說，競爭重心正在從大模型訓練迅速轉向落地階段的超大規模推理。做專用晶片的對手很多，但 NVIDIA 選擇直接把影片編解碼這類周邊但在多模態中極重的任務融進推理平臺，抓住了影片生成走向工業化生產的關鍵瓶頸。

我們認為，這一步走得相當務實。與其在傳統架構上繼續硬堆頻寬，不如把流水線上的碎活直接打包在一起。不過看起來這套高度整合的方案到底能幫客戶省下多少錢，最終還是要看它量產後的實際能效比與總體擁有成本。