マイクロソフト、Windows向けにGPU加速版gpt-oss-20Bを提供開始

gpt-oss-20Bは、OpenAIが公開したオープン推論モデルです。マイクロソフトはこれにGPU最適化を施し、Windows PC上でローカル推論できるようにしました。

ネット接続なしで、API料金を気にすることなく、コード実行やツール呼び出しをこなすローカルエージェントの基盤を手元のPC上に数分で構築できます。

何ができるのか

このモデルの強みは論理的推論とツール活用にあります。OpenAIの大規模強化学習によって訓練されており、思考プロセスの途中で外部のウェブ検索やPythonコードの実行を呼び出す処理を得意としています。

マイクロソフトは「軽量でツール連携に長けている」と評価しており、通信環境が制限された現場での自動化アシスタントやワークフローの組み込みに向いています。

ただし、本モデルはテキスト専用です。画像や音声の入力・生成には対応しておらず、役割をテキスト推論に絞り込んでいます。

必要スペックと注意すべき弱点

ローカルで快適に動かすには、GPUのビデオメモリ（VRAM）が少なくとも16GB必要です。近年のNvidiaやAMD Radeonを搭載した一般向けPCやノートPCであれば動作要件を満たします。

導入前に知っておくべき明確な欠点もあります。それは人物知識に関するハルシネーション（幻覚）の多さです。

OpenAIの評価ベンチマーク「PersonQA」において、gpt-oss-20Bは53%の質問で事実誤認を起こしました。人物の経歴や百科事典的な事実確認に使うと半分以上間違える計算になります。

そのため、知識検索用としてではなく、外部ツールを順番に叩かせるロジック実行エンジンとして割り切って使うのが前提になります。

動かす手順

セットアップの手順はシンプルで、マイクロソフトは2つの方法を用意しています。

1つ目はコマンドラインツールのFoundry Localを使う方法です。ターミナルを開き、winget install Microsoft.FoundryLocal でインストールします。完了後に foundry model run gpt-oss-20B を実行すれば、モデルのダウンロードと対話がすぐに始まります。

2つ目はVS Codeの拡張機能を使う方法です。Visual Studio Code上で「AI Toolkit」拡張機能をインストールし、Model Catalogからgpt-oss-20Bをダウンロードすれば、Model Playground上でプロンプトのテストやパラメータ調整が行えます。

動作確認後は、Foundry Local SDKを使って自分のアプリへ手軽に組み込めます。マイクロソフトは今後macOSへの対応も予定しています。

なぜ重要か

16GBクラスの身近なGPU環境で、ツール連携を前提とした推論モデルが完全オフラインで動くようになった点は大きな前進です。これまでの軽量モデルでは自律的なエージェント処理が破綻しがちでしたが、専用に訓練されたモデルを手元で動かせる選択肢ができました。

事実確認には向かないという癖はあるものの、手元のPCで自動化スクリプトを安全に走らせたい開発者なら、試してみる価値は十分あります。