别再称 LLM 为“下一个词预测器”：RLVR 让模型学会探索新知识
2026.09.05 · 观点 · 技术观点 · 社区热议
文章指出，后训练中的 RLVR 让 LLM 不再只是预测已有文本，而是能探索并学习新序列。
文章认为“LLM 是下一个词预测器”的说法虽不错误但不完整。预训练阶段模型确实只学习训练数据中已有的序列，但现代后训练中的 RLVR 让模型通过生成新序列并根据奖励学习，从而能掌握训练数据中从未出现过的知识。
- 预训练只学习已有序列
- RLVR 让模型探索新序列
- 后训练改变模型行为本质
- 下棋类比说明预测与决策区别
为什么值得看
纠正对 LLM 工作原理的常见误解，理解其能力来源。
适合谁关注
关注 LLM 技术原理的开发者、研究者和技术爱好者。