跳到正文
IFAI

AI工具

Unsloth 推出本地桌面端:免配环境,连训带跑省 70% 显存

首次发布 传播指数 41

Unsloth 正式推出开源桌面端应用 Unsloth Desktop,支持跨平台本地运行与微调大模型。用户无需配置 Python 或敲命令行即可直接跑模型,支持 GGUF、MLX 及扩散模型,训练速度提升 2 倍且显存占用减少 70%。

Unsloth 推出本地桌面端:免配环境,连训带跑省 70% 显存
图:github.com

Unsloth Desktop 是一款免费开源的桌面端应用,把本地运行大模型和微调训练整合进了一个界面里。它基于 Tauri 开发,跨平台支持 Mac、Windows 和 Linux。

它能做什么

它最大的特点是完全省去了繁琐的环境配置。用户不需要折腾 Python 环境,也不用在终端里敲复杂的命令行,下载好模型就能直接对话,或者开始微调训练。

硬件与模型格式的兼容做得很宽泛。它支持 GGUF、MLX、扩散图像与视频模型以及音频模型,能在 NVIDIA、AMD、Intel 以及 Apple Silicon 的 CPU 或多 GPU 环境下跑起来。

在训练效率上,Unsloth 表示其训练速度能提升 2 倍,同时显存占用减少 70%。此外,软件内还集成了沙盒化代码执行、私密网络搜索、深度研究、RAG、MCP 以及准确率提升 50% 的自修复工具,支持将 Claude Code 和 Codex 连接到本地模型,并能通过 Cloudflare HTTPS 实现远程安全部署。项目代码已在 GitHub 开源。

为什么重要

过去本地跑模型已经有了不少轻量工具,但只要涉及模型微调,开发者通常还要面对繁琐的环境依赖和严苛的显存限制。

Unsloth Desktop 把高效的训练引擎做成了即开即用的桌面软件,直接抹平了本地定制模型的门槛。如果你手头有可用算力,想用自有数据低成本跑出专属模型,它非常值得现在就下载一试。

来源 (1)

  1. [1]
    github.com(在新标签页打开)原文github.com

每日 AI 内容精选