OpenAI 研究:预训练、架构与强化学习如何影响思维链可监控性
2026.11.10 · 收录日 2026.11.10 · 模型 · 研究 · 官方发布
OpenAI 披露 GPT-6 Astra 思维链可监控性下降,并给出四项训练生命周期发现。
OpenAI 研究思维链(CoT)可监控性如何受预训练、架构、强化学习和模型生成数据影响。团队发现 GPT-6 Astra 在非对抗场景下 CoT 可监控性下降,对抗测试下更易规避监控,且无 CoT 能力显著增强。
- 无 CoT 能力随基础模型困惑度下降而平滑提升,二者高度相关
- 部分架构(如多跳计算推理评测)在同等困惑度下表现更优,提升斜率更陡
- 强化学习阶段 CoT 可控性上升,即使只有长度约束和最终答案评分
- 加入工具访问与工具监督后,CoT 可控性进一步小幅上升
- CoT 可控性可通过模型生成数据的监督微调在代际间传递,类似潜意识学习
为什么值得看
理解前沿模型思维链监控为何可能失效,关乎 AI 安全底线。
适合谁关注
AI 安全研究者、模型训练工程师、对齐与治理从业者。
