LM Studio 0.4.0 출시: GUI 없는 서버 배포와 연속 배치 처리 지원

친숙한 그래픽 인터페이스로 로컬 대형언어모델(LLM) 환경을 선도해 온 LM Studio가 데스크톱 앱의 한계를 벗어났습니다.

공개된 'LM Studio 0.4.0'은 그래픽 인터페이스와 핵심 구동 엔진을 완전히 분리하고, 서버 배포를 지원하는 전용 데몬 'llmster'와 연속 배칭(Continuous Batching) 기반 병렬 처리 기능을 새롭게 추가했습니다.

GUI 떼어낸 'llmster', 서버와 클라우드로 확장

이번 업데이트의 핵심은 신규 백엔드 데몬인 llmster입니다. 기존에는 화면을 띄워야만 구동할 수 있었던 LM Studio의 핵심 기능을 서버 환경에 맞춰 완전히 독립시켰습니다.

이제 디스플레이가 없는 리눅스 서버나 클라우드 인스턴스, 독립 GPU 머신, 구글 코랩 등 어디서나 llmster를 백그라운드로 띄울 수 있습니다. 설치는 단일 스크립트 명령어로 지원되며, 터미널 환경에서 대화할 수 있는 `lms chat` 등 CLI 인터페이스도 전면 개편되었습니다.

함께 탑재된 llama.cpp 엔진은 버전 2.0.0으로 판올림되면서 동일 모델에 대한 동시 요청 처리가 가능해졌습니다. 기존처럼 요청이 큐에 쌓여 순차 처리되던 방식 대신, 오픈소스 연속 배칭 기술을 활용해 최대 4개의 요청(기본값)을 동시에 처리합니다.

동시 요청 시 메모리가 비효율적으로 쪼개지는 문제를 방지하기 위해 통합 KV 캐시(Unified KV Cache)도 기본 활성화되었습니다. 다만 병렬 요청 기능은 현재 llama.cpp 엔진에만 적용되었으며, 맥용 MLX 엔진은 추후 지원될 예정입니다.

스플릿 뷰, 채팅 내보내기, 상태 유지형 REST API

데스크톱 클라이언트 역시 사용자 편의성을 높이는 기능들이 다수 추가되었습니다. 두 개의 대화를 나란히 띄워 비교할 수 있는 스플릿 뷰가 도입되었고, 대화 기록을 PDF, 마크다운, 일반 텍스트 파일로 내보낼 수 있습니다.

설정 화면에서는 기존 모드들을 단순화한 '개발자 모드'가 신설되어 고급 로딩 옵션과 인앱 문서를 쉽게 열람할 수 있습니다.

개발자 도구 측면에서는 새로운 엔드포인트 `/v1/chat`이 도입되었습니다. 매 요청마다 전체 대화 기록을 보내야 했던 기존 비상태형(Stateless) API와 달리, 직전 대화의 `response_id`를 전달해 문맥을 유지하는 상태 저장(Stateful) 방식을 채택해 전송량을 크게 줄였습니다. 또한 로컬에 구성된 MCP 도구 호출과 접근 제어를 위한 권한 키 관리도 지원합니다.

왜 중요한가

지금까지 로컬 AI 구동 도구는 CLI와 서버 배포에 강한 Ollama, 편리한 UI를 갖춘 LM Studio로 양분되어 있었습니다.

LM Studio 0.4.0은 그 경계를 허물며 본격적인 추론 서버 플랫폼으로의 진화를 보여줍니다. 개발자는 자신의 PC에서 직관적인 UI로 모델을 테스트한 뒤, 사내 GPU 서버나 CI 파이프라인에 llmster를 띄워 완전히 동일한 백엔드로 실서비스를 구성할 수 있게 되었습니다.

특히 연속 배칭 지원과 상태 저장형 API는 여러 명이 하나의 인스턴스를 공유하거나 복잡한 멀티스텝 에이전트를 구축할 때 병목을 크게 덜어줍니다. 로컬 모델로 사내 도구를 구축하거나 개인 인프라를 운영 중이라면 지금 즉시 업그레이드할 가치가 충분합니다. 다만 애플 실리콘 환경에서 MLX 엔진만을 고집하는 사용자라면 병렬 처리 업데이트가 추가될 때까지 조금 더 지켜볼 필요가 있습니다.