跳到正文
IFAI

產業動態

NVIDIA 釋出 DGX Station for Windows:桌面直接跑萬億引數大模型

首次發布 傳播指數 40

在 GTC Taipei 上,NVIDIA 宣佈推出 DGX Station for Windows,搭載 GB300 超級晶片。該系統擁有最高 748GB 統一記憶體和 20 petaflops FP4 算力,支援在本地執行萬億引數模型並並行排程數百個智慧體。戴爾、華碩等廠商的整機預計今年 Q4 上市。

NVIDIA 釋出 DGX Station for Windows:桌面直接跑萬億引數大模型
圖:nvidianews.nvidia.com

過去幾年,想在本地跑動稍微大一點的開源大模型,你的辦公室裡大機率得擺一臺嗡嗡作響的 Linux 伺服器,甚至乾脆把任務扔進雲端機房。企業白領和工程師平時辦公離不開 Windows,但頂尖的 AI 研發環境卻長期被 Linux 牢牢霸佔。

在 GTC Taipei 上,NVIDIA 聯合微軟釋出了 DGX Station for Windows。這臺號稱桌邊超級計算機的硬體,直接把 GB300 Grace Blackwell Ultra 晶片搬到了辦公桌旁,目標很明確:讓你在原生 Windows 環境裡,本地跑起最高 1 萬億引數的前沿大模型。

748GB 統一記憶體,把機房算力塞進桌底

這臺機器的核心是 NVIDIA GB300 超級晶片。它把一顆 72 核的 Grace CPU 和一顆 Blackwell Ultra GPU 通過 NVLink-C2C 互聯綁在一起,擁有最高 748GB 的一致性記憶體,以及 20 petaflops 的 FP4 算力。

748GB 的統一記憶體意味著資料科學團隊在處理海量資料集時,不需要在視訊記憶體和記憶體之間來回折騰搬運資料。如果團隊還要做 3D 模擬或具身智慧設計,機器裡還能額外加裝一張 RTX PRO 6000 Blackwell 工作站顯示卡,專門負責光追渲染和物理模擬。

聯網能力也給得很滿。它配備了支援 800Gb/s 速率的 ConnectX-8 SuperNIC 網絡卡,除了傳輸大型資料集,多臺 DGX Station 之間也能靠高速網路拉在一起協同運算。硬體整機預計在今年第四季度上市,華碩、戴爾、技嘉、惠普、微星和超微都會推出各自的版本。

給隨時待命的 Agent 裝上系統級防盜門

NVIDIA 和微軟這次聯手,核心是想解決 AI Agent 在企業桌面上的常駐問題。新系統允許一臺機器同時並行執行數百個常駐 Agent,直接打通 Windows 原生應用,幫工程師和設計師自動化處理繁瑣流程。

讓 AI 自主呼叫工具,最大的隱患是許可權失控。很多團隊還在靠 Prompt 提示詞勸 AI 守規矩,但稍微遇到提示詞注入攻擊,私有資料就可能洩露。DGX Station 引入了開源的 NVIDIA OpenShell 執行時。

OpenShell 基於 Windows 全新的安全和沙盒隔離機制構建。它把每個 Agent 關進獨立的沙箱,在作業系統底層鎖死策略防線,把應用層操作和系統層許可權徹底切開。這意味著哪怕 Agent 在執行中出了岔子,也碰不到底層的憑據和敏感資料。

對於離不開 Linux 工具鏈的團隊,DGX Station 繼續依託 WSL 提供支援,企業 IT 部門則能直接用現成的微軟裝置管理工具統一部署和推更新。

為什麼重要

我們認為,DGX Station for Windows 是 NVIDIA 和微軟打出的一記精準組合拳。對於那些極度重視資料隱私的金融機構、律所和研發部門來說,他們終於不用為了安全合規在雲端和本地之間做妥協。一臺放在工位旁邊的機器,就能在不聯網傳出資料的情況下,獨立跑動萬億引數規模的模型,還能讓數百個 Agent 7x24 小時不間斷幹活。

這種把資料中心算力桌面化的打法,本質上是在搶奪 AI 時代企業工作流的入口。NVIDIA 以前把底座建在 Linux 機房裡,微軟則守著企業桌面的 Windows 作業系統,雙方之前在高階研發場景其實有一層隔閡。現在兩家把底層硬體、沙盒安全和 Windows 辦公生態綁死,不僅讓企業 IT 採購沒有任何切換心智成本,也順手把純雲端推理服務商逼進了一個尷尬的角落。

不過,值不值得企業在第四季度第一時間進場,關鍵還在於具體售價和實際功耗散熱表現。GB300 加高規格網絡卡和顯示卡,整機價格顯然屬於高階專業資產級別,普通小團隊很難承受。如果你的業務場景不需要本地部署萬億引數模型,或者工作流本就不強依賴 Windows 桌面環境,盲目追這臺昂貴的桌邊龐然大物,很可能會造成嚴重的算力過剩。

來源 (1)

  1. [1]
    nvidianews.nvidia.com(在新分頁開啟)原文nvidianews.nvidia.com

每日 AI 內容精選