本文へスキップ
IFAI

AIツール

LM Studio 0.4.0公開:GUI不要のサーバー運用と連続バッチ処理に対応

公開 拡散指数 42

LM Studioが0.4.0版をリリースしました。GUIなしで動作するデーモン「llmster」を新設し、LinuxサーバーやCI環境への直接デプロイに対応。llama.cppエンジンによる連続バッチ処理で複数リクエストの同時並行処理が可能になったほか、ローカルMCP対応のステートフルREST APIも追加されました。

LM Studio 0.4.0公開:GUI不要のサーバー運用と連続バッチ処理に対応
画像:lmstudio.ai

ローカルLLMを動かすGUIツールとして定番の「LM Studio」が、単なるデスクトップアプリの枠を大きく踏み越えました。

1月28日に公開された「LM Studio 0.4.0」では、アーキテクチャが根本から刷新され、GUIを持たないサーバー環境向けのデーモン「llmster」や、連続バッチ処理による並列リクエスト機能が導入されました。

サーバー運用を可能にする新デーモン「llmster」

今回の最大の変更点は、GUIとバックエンドコアの完全な分離です。新しく登場した「llmster」は、画面表示を前提としないサーバーネイティブなデーモンとして動作します。

これにより、Linuxサーバー、クラウドインスタンス、GPUリグ、さらにはGoogle Colabなど、ディスプレイのない環境にもLM Studioのコアを直接デプロイできるようになりました。ターミナル中心で作業したい開発者向けに、対話型セッションを開始できる新コマンド `lms chat` も用意されています。

また、同梱のllama.cppエンジンがバージョン2.0.0へアップデートされ、同一モデルに対する並列リクエストの処理が可能になりました。従来の順番待ちキュー方式ではなく、オープンソースの連続バッチ処理によって同時に推論を実行します。

モデルロード設定には、最大並行予測数と、メモリを柔軟に割り当てる統合KVキャッシュの設定が追加されました。デフォルトで4並列スロットが用意されています。なお、この並列機能は現時点でllama.cppエンジンのみの対応で、macOS向けのMLXエンジンについては現在開発中とされています。

スプリット表示やエクスポート、ステートフルAPIの追加

デスクトップGUI側も使い勝手が向上しています。チャットを横並びで2つ同時に開ける「Split View」が追加されたほか、会話履歴をPDF、Markdown、プレーンテキスト形式でエクスポートできるようになりました。

さらに、開発者向け機能を集約した「Developer Mode」が新設され、詳細なハードウェア設定やアプリ内ドキュメントへ手軽にアクセスできます。

外部連携の面では、新しいREST APIエンドポイント `/v1/chat` が追加されました。一般的なステートレスAPIとは異なり、会話履歴をサーバー側で保持するステートフル設計が採用されています。直前の `response_id` を渡すだけで会話を継続できるため、リクエストペイロードを削減可能です。このエンドポイントはパーミッションキーで保護されたローカルMCPサーバーの呼び出しにも対応しています。

なぜ重要か

これまでローカルLLMの実行環境といえば、サーバーやCLIではOllama、デスクトップの操作性重視ならLM Studioという棲み分けが一般的でした。

今回の0.4.0によって、LM Studioはその境界を崩しにかかっています。デスクトップでモデルの挙動を検証し、そのまま同一のバックエンドをヘッドレスな社内サーバーやCI環境に配置できるようになった点は、ローカルAIを活用するエンジニアにとって大きなメリットです。並列処理とステートフルAPIの組み合わせにより、複数ユーザーでの推論サーバー共有やエージェント開発の実用性も大幅に向上しました。

GUIの手軽さだけでなく、本格的なセルフホスト推論インフラとしての実用性を備え始めた点において、今回のアップデートは試す価値が十分にあります。ただし、Apple Silicon環境でMLXエンジンを中心に利用しているユーザーは、並列処理の対応をもうしばらく待つ必要があります。

情報源 (1)

  1. [1]
    lmstudio.ai(新しいタブで開きます)原文lmstudio.ai

毎日のAIピックアップ