同样的声音,为什么值得重新选择?
雄鼠研究发现,前扣带皮层把意外反馈带进下一次声音响应;一次意外先改变神经信号,反复反馈才推动选择转弯。
熟悉的声音曾经意味着奖励,后来却不再可靠。继续照旧,还是换一种做法?灵活决策需要在坚持与改变之间拿捏分寸,既不能被偶然一次失误牵着走,也不能对反复出现的新情况无动于衷。2024年7月17日发表于 Nature Communications 的研究,在雄鼠听音任务中追踪前扣带皮层活动,发现反馈信息能够改变下一轮声音的神经表征,而行为策略的转变往往需要更多经验积累。
前扣带皮层中,一部分细胞兼具结果监测与价值更新相关响应;规则反转时,这类细胞的占比增大。抑制该脑区会减慢反馈引导的策略切换,而已学会规则下的表现基本保留。
阅读目录 · 7个部分
声音不变,奖励规则变了
小鼠先学会一套简单的关联:一种声音之后舔舐会获得奖励,另一种声音之后舔舐则会遭遇气流刺激。随着学习,它们逐渐只对奖励声音作出舔舐反应。团队随后改变声音与结果的关系,观察已经熟练的选择如何被新的经验改写。
稳定规则下,前扣带皮层对奖励声音的群体响应更强。奖励变得不可靠或规则反转后,两种声音的活动模式不再像此前那样分开;重新学会反转后的规则,区分又恢复了。神经活动随声音的意义变化,声音的物理身份却没有改变。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗
一次意外,先在神经信号里留下痕迹
在不确定阶段,原本应得的奖励偶尔缺席,也会出现没有声音提示的奖励。刚开始,小鼠仍沿用熟悉的舔舐策略;累积更多意外结果后,对原奖励声音的响应才减少。预期奖励的舔舐和获得奖励后的舔舐速度基本稳定,变化更像是在重新评估声音的可靠性。
神经活动比行为转变更早出现差别:经历一次意外后,下一轮奖励声音引起的群体响应已经减弱,命中率却没有显著改变。于是,同一段经验可以先改变脑内对声音的响应,再在后续积累中推动行为。坚持旧选择,并不意味着新的反馈没有被处理。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗
有些细胞既看结果,也跟着更新
团队把注意力转向单个细胞。一组细胞对奖励落空的响应比实际得到奖励时更强;另一组细胞在不确定阶段后期,对奖励声音的响应降低。前一种活动反映结果监测,后一种与声音价值逐步下调相联系。两种特征还能出现在同一个细胞上。
在这一阶段记录的549个细胞中,40个兼具两种特征。把这些细胞的记录从解码分析中去掉,对结果和任务阶段的识别准确率都会下降。它们占比不大,却携带了有助于连接“刚才发生什么”与“现在怎样评价声音”的信息。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗
奖励变成气流,选择更快转弯
规则彻底反转时,原先带来奖励的声音,现在在舔舐后带来气流。最初几次沿用旧选择,就会接连得到意外结果。小鼠在早期迅速减少舔舐,前扣带对原奖励声音的响应也明显降低。但单次错误后的下一轮选择,仍没有立刻显著改变。
这次记录的493个细胞中,98个同时具有结果监测和价值更新特征,占比高于不确定阶段。较强、较密集的反馈,伴随着更多这类细胞被识别出来,也伴随着更快的策略切换。改变的速度似乎取决于新经验多么持续地挑战旧预期。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗
反馈不只改答案,也可能改学习速度
研究团队用强化学习模型描述这一过程:每次反馈既参与调整声音的价值,也影响后续经验在更新中占多大分量。规则反转早期,模型估计的学习率高于不确定阶段,与行为更快改变的方向相符。
据此,团队提出双功能细胞可能像并行处理经验的单元。需要快速改变时,招募更多单元,提高反馈对更新的影响;环境可靠时,则让既有选择保持稳健。细胞活动和模型共同勾勒出这种解释,关键是适应速度也可以随经验而变。
重新熟练之后,上一轮仍有影响
重新学会规则以后,小鼠表现再次稳定,神经系统却并非不再关心结果。同样的奖励声音,如果上一轮得到奖励或没有得到奖励,诱发的前扣带响应仍会不同。行为总体平稳,近期经验对神经活动的影响依然可见。
统计模型进一步显示,经历反转后,过去几轮结果对当前声音响应的影响更强、延续更远。一次规则变化留下的经验,能够影响后来处理反馈的方式。稳定不是停止更新,而是新的信息与已经学会的关联保持了相对平衡。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗
会做旧题,却慢于适应新规则
因果干预带来了一个鲜明区分:在稳定任务中压低前扣带活动,命中率和总体辨别表现没有显著改变;在不确定或反转阶段,同样干预却阻碍或减慢了选择调整。小鼠仍能照旧做出熟悉反应,只是更难根据新结果及时改换策略。
无论干预发生在声音出现时,还是经历意外结果时,都观察到切换受影响。这项成年雄鼠研究把前扣带皮层与反馈引导的更新联系起来,也将区域整体的因果作用,与单细胞活动提供的计算解释相衔接:灵活选择需要的不仅是记住规则,还包括根据经验决定何时修改它。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗