GPT-OSS 模板再修复:新增 preserve_thinking,并修掉 Unsloth 引入的严重 bug
2026.09.27 · 产品 · 开源项目 · 社区热议
旧模板在回放含推理的聊天历史时会丢弃模型答案,导致模型跑偏。
作者更新了基于 Unsloth 版本的 GPT-OSS 模板,发现其中存在一个严重 bug:当历史消息同时包含 content 和 thinking 时,渲染只保留推理而丢掉答案,可能显著干扰模型。作者已在自建模板中加入 preserve_thinking,并称 GPT-OSS 120B 能靠推理痕迹恢复上下文,而 20B 有时会完全跑偏。
- 旧模板回放历史时只渲染 thinking,丢弃 content 答案
- 该 bug 源自 Unsloth 模板,OpenAI 参考模板没有此分支
- 作者新模板加入 preserve_thinking,保留推理历史
- 保留推理可借前缀缓存加速多轮推理,但 token 用量更高
- GPT-OSS 120B 能靠推理痕迹恢复对话方向,20B 有时跑偏
为什么值得看
多轮对话中答案被丢弃,会直接影响 GPT-OSS 推理稳定性。
适合谁关注
使用 GPT-OSS 做多轮推理的开发者与本地部署用户。