Qwen3-4B 去 AI 味微调版发布：用蒸馏把 AI 写作腔调从权重里训练掉
2026.10.19 · 产品 · 开源项目 · 社区热议
作者用蒸馏和规则检查训练出 Qwen3-4B 去 AI 腔版本，AI 味评分从 121 降到 12.5
作者在 MacBook Air 上对 Qwen3-4B 做蒸馏微调，目标是去掉破折号、「不是 X 而是 Y」、三段式列举等 AI 写作习惯。他用自写检测器打分，原模型平均 121，最终发布版为 12.5，任务契合度回到 80%，「, which」连接从 1.4 降到 0.3/100 词。
- 自写检测器按 AI 写作习惯加权计分，原模型平均 121
- 第一轮蒸馏后无提示词评分约 20
- 第二轮加四神经元补丁与提示词，最低测得 9.5 但文本跑题
- 发布版评分 12.5，80% 回答落在人类区间
- 量化版 Q4_K_M 仅 2.5 GB，可在笔记本用 Ollama 运行
为什么值得看
展示如何把写作风格直接训练进模型权重，而非依赖提示词
适合谁关注
关注小模型微调、AI 写作去味和本地部署的开发者