清华与斯坦福团队在LLM内部发现两种神经元，定位奖励子系统
2026.09.22 · 事件 · 论文 · 论文预印本
研究发现LLM中奖励信息集中在不到1%的神经元，可定位、干预和利用。
清华与斯坦福团队通过剪枝实验发现，LLM中与奖励相关的信息集中在少数神经元中，构成“奖励子系统”。其中价值神经元编码状态价值，多巴胺神经元编码逐步TD误差。将Qwen-2.5-7B中1%价值神经元置零，MATH500准确率从75.2%降至20.3%，而随机置零影响不大。
- 奖励信息集中在不到1%的神经元中
- 发现价值神经元与多巴胺神经元两类
- 置零1%价值神经元准确率降至20.3%
- 价值神经元可作轻量级置信度估计器
- 多巴胺神经元可充当流程奖励模型
为什么值得看
揭示LLM内部奖励机制，推动可解释性研究。
适合谁关注
LLM研究者、AI可解释性从业者、模型开发者