Nvidiaが無料ツール「PAIR」公開：家庭の遊休PCを連携し分散AI環境を構築
Nvidiaは家庭内の遊休PCを連携させてローカルAI推論を行える無料オープンソースツール「PAIR」を発表しました。RTX 20シリーズ以降やApple M4に対応し、ゲーム起動時などは自動で負荷を回避します。Windows、Linux、macOS向けベータ版が公開中です。
LM Studio
LM Studio 0.4.0公開：GUI不要のサーバー運用と連続バッチ処理に対応
LM Studioが0.4.0版をリリースしました。GUIなしで動作するデーモン「llmster」を新設し、LinuxサーバーやCI環境への直接デプロイに対応。llama.cppエンジンによる連続バッチ処理で複数リクエストの同時並行処理が可能になったほか、ローカルMCP対応のステートフルREST APIも追加されました。
LM Studio 0.3.15公開、CUDA 12.8対応でRTX推論が最大35%高速化
ローカルLLM実行ツール「LM Studio」のバージョン0.3.15が公開され、CUDA 12.8への対応によりNVIDIA RTX GPUでの推論性能が向上した。CUDA GraphやFlash Attentionの導入でスループットが最大35%改善し、RTX 20シリーズからBlackwell世代まで幅広く対応する。外部ツール呼び出しを制御する「tool_choice」機能も追加された。