开源 LLM 后训练 CLI,自动生成训练配置,层流式训练可在 4 GB 显存微调 8B 模型
Soup(soup-cli)用一个 YAML 驱动大模型微调,官网标语 "Stop tuning. Start training. Soup writes the config for you"。训练前先做 数据预检、选定方法并按规则生成配置(任务、量化、学习率、轮数),评估由 自有数据推导、每次保存前设门禁,训练中自纠 reward hacking;层流式训练 (BETA)把冻结底座从内存或 NVMe 逐层流入显存并做 4-bit 量化,官方称 Llama-3.1-8B 能在 4 GB 显卡上微调,DPO、ORPO、SimPO、KTO 同样可流式 训练。内置 23 种方法、167 个配方,一条 soup migrate 命令可从 LLaMA-Factory、Axolotl、Unsloth 迁移既有配置。Apache-2.0 开源,要求 Python 3.10 到 3.12,GitHub 8.1k stars(2026-10-05),由 MePlay, Inc. 维护。



暂无相关文章。