开源免费的本地大模型运行与微调桌面应用,"100% Local"
Unsloth 现主打 Unsloth Desktop 桌面应用,官方称 "The first desktop app to run and train AI models",开源免费(仓库 Apache-2.0),本地运行 与微调 LLM 及扩散模型,支持 GGUF 与 MLX。应用内置对话、模型 hub、图像 与训练模块,可用 Qwen-Image-2.1、FLUX 等生成图像,用 Wan 与 LTX 生成 视频,另提供免费、私有的不限量 Web 搜索与 Deep Research。模型 hub 按 设备提供各量化版本下载,对新发布模型提供 Day Zero 支持;通过 unsloth start 命令可将 Claude Code、Codex 等 Agent 接到本地模型,另有 OpenAI 兼容 API,供现有应用、脚本与 SDK 调用。微调支持 LoRA、QLoRA、GRPO、 DPO 与 FP8,官方称 "2× faster with 70% less VRAM",可导出 GGUF、FP8 等格式;官网提供 Mac 版下载。




暂无相关文章。