微軟為 Windows 帶來 gpt-oss-20B:GPU 加速支援本地推理
Microsoft 宣佈將經 GPU 加速的開源推理模型 gpt-oss-20B 帶到 Windows 裝置,支援本地推理。開發者可以通過 Foundry Local 或 VS Code 的 AI Toolkit 直接下載執行,幾分鐘內即可在本地呼叫並整合到應用中。
Microsoft 宣佈將經 GPU 加速的開源推理模型 gpt-oss-20B 帶到 Windows 裝置,支援本地推理。開發者可以通過 Foundry Local 或 VS Code 的 AI Toolkit 直接下載執行,幾分鐘內即可在本地呼叫並整合到應用中。
OpenAI 釋出開源權重推理模型 gpt-oss-120b 與 gpt-oss-20b,採用 Apache 2.0 協議。兩款模型具備完整的思維鏈與工具呼叫能力,其中 20b 版本僅需 16 GB 記憶體即可在端側執行。開發者終於能在本地硬體上部署自家的推理 AI。