清华与斯坦福团队在LLM内部发现两种神经元，定位奖励子系统 来源：ScienceAl 编辑：% 大型语言模型的隐藏状态里，早已被发现包含一些与答案正确性、模型置信度和奖励相关的信息。但此前的研究通常直接对完整隐藏状态训练一个探测器，只能说明这些信息「能够被读出来」，却很难进一步回答究竟是模型中的哪些神经元在编码这些信号？ 斯坦福与清华大学在一项研究中出了一种更细的观察方式。他们发现，与奖励相关的信息并没有平均分散在整个隐藏状态中，而是集中在一小部分神经元里，并将其称为 reward subsystem，即奖励子系统。 论文链接：*https://arxiv.org/abs/2602.00986* 模型中的神经元** 论文最终找到的两类神经元，分别对应状态价值和逐步奖励预测误差。 第一类是 value neurons（价值神经元）。它们编码当前状态的预期价值，也就是从当前推理状态继续生成下去，最终得到正确答案的概率。 第二类被称为 dopamine neurons（多巴胺神经元）。它们编码的是逐步的时分误差（TD error），反映某一步推理之后，模型预期获得正确答案的概率发生了多大变化