微软为 Windows 带来 gpt-oss-20B:GPU 加速支持本地推理
Microsoft 宣布将经 GPU 加速的开源推理模型 gpt-oss-20B 带到 Windows 设备,支持本地推理。开发者可以通过 Foundry Local 或 VS Code 的 AI Toolkit 直接下载运行,几分钟内即可在本地调用并集成到应用中。
Microsoft 宣布将经 GPU 加速的开源推理模型 gpt-oss-20B 带到 Windows 设备,支持本地推理。开发者可以通过 Foundry Local 或 VS Code 的 AI Toolkit 直接下载运行,几分钟内即可在本地调用并集成到应用中。
OpenAI 发布开源权重推理模型 gpt-oss-120b 与 gpt-oss-20b,采用 Apache 2.0 协议。两款模型具备完整的思维链与工具调用能力,其中 20b 版本仅需 16 GB 内存即可在端侧运行。开发者终于能在本地硬件上部署自家的推理 AI。