엔비디아, 놀고 있는 PC 묶어 AI 연산 돌리는 무료 도구 'PAIR' 공개
엔비디아가 가정 내 유휴 PC를 분산 연결해 로컬 AI 추론을 처리하는 무료 오픈소스 도구 'PAIR'를 출시했습니다. RTX 20 시리즈 이상 및 애플 M4 칩을 지원하며, 사용자가 게임을 켜면 자동으로 작업을 양보합니다. 윈도우, 리눅스, macOS 베타가 제공됩니다.
LM Studio
LM Studio 0.4.0 출시: GUI 없는 서버 배포와 연속 배치 처리 지원
LM Studio가 0.4.0 버전을 공개하고 GUI 없이 단독 실행할 수 있는 백그라운드 데몬 'llmster'를 도입했습니다. 클라우드 서버와 CI 환경에 바로 배포할 수 있으며, llama.cpp 연속 배치 처리를 통해 단일 모델의 병렬 요청 처리와 로컬 MCP 연동 REST API를 지원합니다.
LM Studio 0.3.15 출시: CUDA 12.8 지원으로 RTX 추론 최대 35% 향상
로컬 LLM 구동 툴 LM Studio가 0.3.15 버전으로 업데이트되며 CUDA 12.8을 공식 지원한다. CUDA 그래프 및 플래시 어텐션 커널을 적용해 RTX GPU에서의 추론 처리량을 최대 35% 끌어올렸으며, RTX 20 시리즈부터 최신 블랙웰 아키텍처까지 호환된다. 외부 도구 호출을 제어하는 tool_choice 매개변수도 추가되어 로컬 에이전트 구축이 더 수월해졌다.