Unsloth 推出本地桌面端:免配環境,連訓帶跑省 70% 視訊記憶體
Unsloth 正式推出開源桌面端應用 Unsloth Desktop,支援跨平臺本地執行與微調大模型。使用者無需配置 Python 或敲命令列即可直接跑模型,支援 GGUF、MLX 及擴散模型,訓練速度提升 2 倍且視訊記憶體佔用減少 70%。

Unsloth Desktop 是一款免費開源的桌面端應用,把本地執行大模型和微調訓練整合進了一個介面裡。它基於 Tauri 開發,跨平臺支援 Mac、Windows 和 Linux。
它能做什麼
它最大的特點是完全省去了繁瑣的環境配置。使用者不需要折騰 Python 環境,也不用在終端裡敲複雜的命令列,下載好模型就能直接對話,或者開始微調訓練。
硬體與模型格式的相容做得很寬泛。它支援 GGUF、MLX、擴散影像與影片模型以及音訊模型,能在 NVIDIA、AMD、Intel 以及 Apple Silicon 的 CPU 或多 GPU 環境下跑起來。
在訓練效率上,Unsloth 表示其訓練速度能提升 2 倍,同時視訊記憶體佔用減少 70%。此外,軟體內還集成了沙盒化程式碼執行、私密網路搜尋、深度研究、RAG、MCP 以及準確率提升 50% 的自修復工具,支援將 Claude Code 和 Codex 連線到本地模型,並能通過 Cloudflare HTTPS 實現遠端安全部署。專案程式碼已在 GitHub 開源。
為什麼重要
過去本地跑模型已經有了不少輕量工具,但只要涉及模型微調,開發者通常還要面對繁瑣的環境依賴和嚴苛的視訊記憶體限制。
Unsloth Desktop 把高效的訓練引擎做成了即開即用的桌面軟體,直接抹平了本地定製模型的門檻。如果你手頭有可用算力,想用自有資料低成本跑出專屬模型,它非常值得現在就下載一試。
來源 (1)
- github.com(在新分頁開啟)原文github.com