跳到正文
IFAI

CUDA

产品2 条新闻

  1. AI工具传播指数 39

    LM Studio 0.3.15 支持 CUDA 12.8:RTX 显卡推理吞吐最高提升 35%

    LM Studio 发布 0.3.15 版本,正式接入 CUDA 12.8 并优化 RTX 显卡推理。更新引入 CUDA graph 与 Flash Attention 技术,使本地模型吞吐量最高提升 35%,支持从 RTX 20 系列到 Blackwell 架构显卡。新版还加入了 tool_choice 参数,方便本地部署智能体与 RAG 工作流。