微軟 Windows ML 正式商用：端側 AI 跨晶片推理，體積省幾百兆

以前想在 Windows 軟體裡塞進一個本地 AI 功能，過程往往讓人頭疼：你得先搞清楚使用者的電腦裝的是輝達顯示卡、英特爾核顯還是高通的 NPU，再把各家幾十上百兆的執行庫一股腦打包進安裝包裡，安裝包體積暴漲不說，出了相容性 bug 往往還得開發者自己扛。

微軟宣佈 Windows ML 結束預覽，正式商用上線（GA）。這個在今年 Build 大會上首次亮相的內建 AI 推理執行時，終於正式向所有開發者開放，要在作業系統底層抹平不同硬體之間的差異。

幫安裝包瘦身，順便把各家晶片拉到一張桌上

簡單來說，Windows ML 充當了硬體和應用之間的抽象層。它底層相容 ONNX Runtime，開發者可以用熟悉的介面寫程式碼，模型格式也直接沿用成熟的 ONNX。哪怕你手裡只有 PyTorch 模型，也能用 VS Code 裡的 AI Toolkit 完成轉換和最佳化。

以前最頭疼的晶片適配，現在全交給了微軟口中的執行提供程式（Execution Providers，簡稱 EP）。各家晶片廠商自己維護專屬的 EP，而微軟負責由 Windows 系統直接向終端分發和維護這些元件。開發者再也不用把龐大的執行時打包進應用裡，光是這一項，就能給客戶端軟體省下幾十到數百兆的空間。

更有意思的是各大晶片巨頭的站隊。AMD 拿出了適配銳龍 AI 平臺的 Vitis AI EP，打通了 NPU、GPU 和 CPU；英特爾整合了 OpenVINO 框架，面向酷睿 Ultra 系列最佳化；高通針對驍龍 X 系列 NPU 推出了 QNN 執行時，並預告後續支援下一代驍龍 X2 平臺。輝達也沒閒著，為 GeForce RTX 和 RTX PRO 顯示卡帶來了專用的 TensorRT for RTX 執行時，官方聲稱推理速度比以前的 DirectML 提升了 50% 以上，直接覆蓋超 1 億臺 Windows 裝置。

開發者還能按需指定排程策略。如果軟體想省電，就走 NPU 策略；想飆效能，就指定顯示卡 GPU，不再需要自己去寫底層硬體檢測程式碼。

從修圖剪影片，到本地抓 Deepfake

微軟拉來的第一批落地名單很長，覆蓋了不少日常應用。

Adobe 已經在準備將 Premiere Pro 和 After Effects 接入 Windows ML，接下來的版本會呼叫本地 NPU 來加速媒體庫語義搜尋、音訊型別標記和場景剪輯檢測，未來還打算把現有的全部本地模型搬遷過來。萬興科技的剪輯軟體 Filmora 則利用不同平臺的 NPU，為影片即時生成閃電纏繞、粒子環繞等人體特效。

安全和實用工具也在轉向本地。安全軟體 McAfee 用它在本地檢測社交網路上的 Deepfake 假影片與詐騙，BUFFERZONE 則用端側模型做即時防釣魚分析，敏感的網頁資料完全不需要傳回雲端。此外，虛擬攝像頭軟體 Camo 用 NPU 做即時背景分割，無障礙工具 Dot Vista 用它在醫療環境中做離線語音控制和文字識別，Topaz Labs 也在用它給照片做去噪和清晰度修復。

為什麼重要

我們認為，Windows ML 正式商用意味著 PC 端的 AI 競賽終於跨過了「比拼 NPU 算力數字」的初級階段，開始進入基礎設施收網期。過去一年，各大廠商天天宣傳幾十 TOPS 的算力，但普通使用者拿到手根本不知道除了模糊背景還能幹嘛，核心原因就是底層開發棧太碎，第三方軟體不敢輕易給每一家晶片都寫一套適配。

微軟這一步走得相當聰明。它沒有強推一套完全推倒重來的新框架，而是基於業內成熟的 ONNX 體系，把髒活累活接了過來，讓晶片廠去維護自己的驅動外掛，系統層統一排程。對開發者來說，軟體瘦身了幾百兆，而且只要打一份安裝包就能通吃各種主流硬體，試錯門檻明顯降低了。如果你正在做面向 Windows 使用者的桌面應用，現在正是把模型從雲端拉回本地跑跑看的好時機。

不過隱患依然存在。各家晶片廠商的 EP 質量參差不齊，雖然微軟承諾了相容性認證機制，但在千奇百怪的 Windows 硬體組合下，端側模型的精度一致性和偶發閃退依然需要時間檢驗。但無論如何，Windows 終於拿出了能正面抗衡蘋果 Core ML 的系統級底座，端側 AI 應用的爆發速度大機率會比我們預想的更快。