跳到正文
IFAI

AI工具

微軟釋出桌面 AI 開發者主機:配 128G 統一記憶體,本地跑 120B 大模型

首次發布 傳播指數 39

Microsoft 在 Build 大會上釋出迷你開發者電腦 Surface RTX Spark Dev Box。它搭載 NVIDIA RTX Spark 晶片與 128GB 統一記憶體,提供 1 Petaflop 算力,可在本地執行 120B 模型。該裝置主打本地優先 AI 開發以節省雲端呼叫開銷,預計今年晚些時候在美髮售。

微軟釋出桌面 AI 開發者主機:配 128G 統一記憶體,本地跑 120B 大模型
圖:blogs.windows.com

如果你這幾年一直在做 AI 應用,最直觀的感受大概就是錢包在滴血。每次除錯 agent、改幾次 prompt,哪怕只是跑個基準測試,雲端 API 的賬單就往上跳一截。

微軟在 Build 大會上正式公佈了一臺專給開發者用的桌面小機器:Surface RTX Spark Dev Box。繼本週早些時候公佈的 Surface Laptop Ultra 之後,微軟把這臺裝置推向前臺,主打一個邏輯:把大模型拉回自己的桌子上跑。

把 128GB 統一記憶體塞進桌面小方盒

這臺裝置的核心不是普通的桌面處理器,而是輝達的 NVIDIA RTX Spark 超級晶片。它把一塊 NVIDIA Blackwell 架構的 RTX GPU 和一顆 NVIDIA Grace CPU 綁在了一起。

整機擁有 128 GB 的統一記憶體,在開啟稀疏特性的理論 FP4 精度下,能提供最高 1 petaflop 的 AI 算力。這種規格不是為了跑幾個小型分類模型準備的。

微軟給出的指標很激進:它可以在本地以互動級的響應速度,跑引數量超過 1200 億、上下文達 100 萬 token 的大模型。以前必須租雲端 GPU 例項才能做的模型微調,現在也能在桌面上直接跑。

為了扛住這種長時間的推理和微調,整機採用了一體成型的鋁合金外殼,機身本身就直接兼作散熱片,應付長週期的訓練任務和多 agent 協作流水線。

開機就能用的「去娛樂化」Windows

很多開發者不用 Windows 開發 AI 的一大痛點,就是裝環境太折騰。微軟這次在系統映象層面做了徹底的預配置。

開機就是 Windows 11 Pro 開發者定製版,直接預設深色主題,工作列刪掉了花哨的小元件,免打擾預設開啟,開發者模式直接開啟,預設終端也是 PowerShell 7。

底層環境上,WSL 2 已經配好了 GPU 直通和 CUDA 支援。開箱就已經裝好了 VS Code、GitHub Copilot、Git、Python 和 Node.js,不管你是習慣在 Windows 本地寫程式碼,還是依賴 Linux 子系統,都可以直接上手。

它還塞進了微軟自己的全套 AI 鏈條,包括 VS Code 的 AI Toolkit、支援 TensorRT 的 Windows ML、Windows Copilot Runtime 以及對接生產部署的 Microsoft Foundry。

這臺裝置預計將於今年晚些時候在美國發售,僅在微軟官網銷售,目前官方還沒公佈具體定價。

為什麼重要

這臺小機器看起來是硬體,實際上是微軟和輝達聯手在跟雲廠商「搶生意」,或者更準確地說,是在幫開發者建立一套「本地優先」的算力護城河。

對開發者和中小團隊來說,它的價值非常直接。現在的 agent 開發最怕頻繁試錯,幾百次工具呼叫跑下來,雲端費用貴得肉疼,網路延遲也讓除錯變得極其痛苦。如果一臺機器能吃下 120B 規模的模型和百萬上下文,你完全可以在桌面上完成 90% 的原型驗證和微調,只把真正需要前沿能力的終極呼叫留給雲端。

對行業來說,這也是 Windows 陣營正面對抗蘋果 Mac Studio 的關鍵落子。過去兩年,很多做本地大模型推理的開發者都投向了蘋果高配晶片的大統一定存,因為輝達的消費級顯示卡視訊記憶體給得太摳門。現在輝達直接拿出 Grace 加 Blackwell 的 128GB 統一記憶體架構,加上開箱即用的 CUDA 和 WSL 2,直接把矛頭對準了這批開發者。

我們認為微軟這一步走得相當實在。它沒有去吹虛無縹緲的消費級概念,而是老老實實把系統裡那些煩人的娛樂功能剔除,把驅動、CUDA、模型微調工具鏈一次性焊死。唯一的懸念就剩價格了:如果定價依然高高在上,獨立開發者恐怕還是隻能看著流口水;但只要價格落在合理區間,它很可能會成為接下來 AI 開發者工位上的標配。

來源 (1)

  1. [1]
    blogs.windows.com(在新分頁開啟)原文blogs.windows.com

每日 AI 內容精選