開發生態
Unsloth 發布開源桌面版應用程式,支援本地模型運行與訓練,訓練速度提升 2 倍並減少 70% VRAM
Reddit r/LocalLLaMA單一來源
尚未逐項核實
目前依單一來源整理,這是來源數量描述,不是對消息真假的判定。
據 Reddit 社群消息,Unsloth 團隊宣布推出首款開源桌面應用程式 Unsloth Desktop,支援在 Mac、Windows 與 Linux 上本地運行與訓練模型。該應用程式延續 Unsloth 的核心技術,標榜訓練模型速度提升 2 倍,並減少 70% VRAM 消耗,硬體端支援 CPU 以及 NVIDIA、AMD、Intel 與 Mac 的多 GPU 環境。
在模型支援方面,Unsloth Desktop 相容 MLX、GGUF 格式以及圖像、影片與音訊等多模態模型,可運行 MiniMax-H3、Muse Glimmer,並預告將支援 Qwen 3.8。功能面內建私人網路搜尋、深度研究、RAG 與 MCP,並支援匯出為 NVFP4 與 GGUF 格式。
針對開發者,該應用程式具備自我修復工具呼叫與沙盒程式碼執行功能,官方稱準確率提升 50%。此外,使用者可將 Claude Code 與 Codex 連接至本地模型,系統提供相容 OpenAI 的 API,並允許透過 Cloudflare HTTPS 進行遠端安全部署。官方強調,該軟體不收集任何遙測或使用者資料。
讀原始報導背景
Unsloth Desktop 是一款開源的桌面應用程式,讓使用者能在本地端執行與訓練 AI 模型,並支援跨平台與多 GPU 環境。該軟體支援多種模型格式,包含由 llama.cpp 專案於 2023 年 8 月推出的 GGUF 格式,這是一種將張量與元資料儲存於單一檔案以利快速載入的二進位格式。