跳到正文
IFAI

LM Studio

產品3 則新聞

  1. AI工具傳播指數 39

    LM Studio 0.3.15 支援 CUDA 12.8:RTX 顯示卡推理吞吐最高提升 35%

    LM Studio 釋出 0.3.15 版本,正式接入 CUDA 12.8 並最佳化 RTX 顯示卡推理。更新引入 CUDA graph 與 Flash Attention 技術,使本地模型吞吐量最高提升 35%,支援從 RTX 20 系列到 Blackwell 架構顯示卡。新版還加入了 tool_choice 引數,方便本地部署智慧體與 RAG 工作流。