神经网络可解释性被AI解决了？90%神经元只有一个功能
2026.10.16 · 观点 · 人物观点 · 本人发布
OpenAI可解释团队创建人称神经网络并非黑箱，Qwen3-32B中约90%神经元各只有一项主要工作。
OpenAI可解释团队创建人Nick Cammarata发文称，神经网络并非纠缠的结，Qwen3-32B中约90%的神经元正、负「极」各自只有一项主要工作。他提出「递归泛化」替代superposition假说，并借助智能体工具在Kimi K3上做出首个万亿参数模型归因图。
- Nick Cammarata称神经网络并非纠缠的结，多义性是误解
- Qwen3-32B约90%神经元各有一项主要工作，约7%有两项
- 2023年自动可解释性项目仅找到约1.7%可解释神经元
- 在Kimi K3上做出已知首个万亿参数模型归因图
- 提出「递归泛化」：神经元从模式出发长出相关分支
为什么值得看
可解释性路线可能被AI智能体工具大幅推进
适合谁关注
关注大模型安全与可解释性的研究者、从业者