跳到正文
IFAI

AI工具

Unsloth 推出本地桌面端:免配環境,連訓帶跑省 70% 視訊記憶體

首次發布 傳播指數 41

Unsloth 正式推出開源桌面端應用 Unsloth Desktop,支援跨平臺本地執行與微調大模型。使用者無需配置 Python 或敲命令列即可直接跑模型,支援 GGUF、MLX 及擴散模型,訓練速度提升 2 倍且視訊記憶體佔用減少 70%。

Unsloth 推出本地桌面端:免配環境,連訓帶跑省 70% 視訊記憶體
圖:github.com

Unsloth Desktop 是一款免費開源的桌面端應用,把本地執行大模型和微調訓練整合進了一個介面裡。它基於 Tauri 開發,跨平臺支援 Mac、Windows 和 Linux。

它能做什麼

它最大的特點是完全省去了繁瑣的環境配置。使用者不需要折騰 Python 環境,也不用在終端裡敲複雜的命令列,下載好模型就能直接對話,或者開始微調訓練。

硬體與模型格式的相容做得很寬泛。它支援 GGUF、MLX、擴散影像與影片模型以及音訊模型,能在 NVIDIA、AMD、Intel 以及 Apple Silicon 的 CPU 或多 GPU 環境下跑起來。

在訓練效率上,Unsloth 表示其訓練速度能提升 2 倍,同時視訊記憶體佔用減少 70%。此外,軟體內還集成了沙盒化程式碼執行、私密網路搜尋、深度研究、RAG、MCP 以及準確率提升 50% 的自修復工具,支援將 Claude Code 和 Codex 連線到本地模型,並能通過 Cloudflare HTTPS 實現遠端安全部署。專案程式碼已在 GitHub 開源。

為什麼重要

過去本地跑模型已經有了不少輕量工具,但只要涉及模型微調,開發者通常還要面對繁瑣的環境依賴和嚴苛的視訊記憶體限制。

Unsloth Desktop 把高效的訓練引擎做成了即開即用的桌面軟體,直接抹平了本地定製模型的門檻。如果你手頭有可用算力,想用自有資料低成本跑出專屬模型,它非常值得現在就下載一試。

來源 (1)

  1. [1]
    github.com(在新分頁開啟)原文github.com

每日 AI 內容精選