Nvidia 推出免费工具 PAIR:串联闲置电脑,在家搭分布式 AI 算力网
Nvidia 推出免费开源工具 PAIR,能自动发现局域网内的闲置电脑并协同运行本地 AI 推理。它支持 RTX 20 系列及以上显卡、DGX Spark 以及苹果 M4 芯片,设备一旦玩游戏会自动退让算力。该工具提供 Windows、Linux 和 macOS 测试版。
Nvidia 推出免费开源工具 PAIR,能自动发现局域网内的闲置电脑并协同运行本地 AI 推理。它支持 RTX 20 系列及以上显卡、DGX Spark 以及苹果 M4 芯片,设备一旦玩游戏会自动退让算力。该工具提供 Windows、Linux 和 macOS 测试版。
LM Studio 发布 0.4.0 版,将核心引擎拆分为脱离界面的后台守护进程 llmster,可直接部署在云服务器或 CI 环境中。新版还为 llama.cpp 引入连续批处理以支持多请求并发,并上线支持本地 MCP 的有状态 REST API。
LM Studio 发布 0.3.15 版本,正式接入 CUDA 12.8 并优化 RTX 显卡推理。更新引入 CUDA graph 与 Flash Attention 技术,使本地模型吞吐量最高提升 35%,支持从 RTX 20 系列到 Blackwell 架构显卡。新版还加入了 tool_choice 参数,方便本地部署智能体与 RAG 工作流。