Unsloth 开源教程:本地训练 Qwen3.5 0.8B 决策模型,准确率从 20.7% 提升至 74.3%

2026.10.08 · 产品 · 开源项目 · 本人发布

Unsloth 开源仓库与教程,让普通 LLM 微调成决策模型

Unsloth AI 宣布可在本地训练自己的决策模型,把 Qwen3.5 0.8B 在 3 项决策基准上的综合准确率从 20.7% 提升到 74.3%,且只需 4GB 显存。方法是用 Unsloth 加 LoRA(r=64)微调一个 Clef head,训练一个 epoch,下游准确率从 30–37% 提升到 78%。相关代码与教程已在 GitHub 和官方文档开放。

  • Qwen3.5 0.8B 综合准确率 20.7%→74.3%
  • 仅需 4GB 显存即可本地训练
  • 用 Unsloth + LoRA(r=64)微调一个 epoch
  • 下游准确率从 30–37% 提升到 78%
  • 可把 Qwen3.8、Gemma 4 等 LLM 转成决策模型

为什么值得看

低显存门槛把决策模型微调变成个人可复现的操作

适合谁关注

想本地微调小模型的开发者与 AI 爱好者

原始来源