跳至内容

同样的声音,为什么值得重新选择?

Nature communications · 2024-07-17

Table of contents

No titles in the blog post

Nature communications · 研究前沿

同样的声音,为什么值得重新选择?

雄鼠研究发现,前扣带皮层把意外反馈带进下一次声音响应;一次意外先改变神经信号,反复反馈才推动选择转弯。

AI概念图:小鼠听到声音,反馈经验与神经网络更新相联系;不是实验场景或真实连接图

熟悉的声音曾经意味着奖励,后来却不再可靠。继续照旧,还是换一种做法?灵活决策需要在坚持与改变之间拿捏分寸,既不能被偶然一次失误牵着走,也不能对反复出现的新情况无动于衷。2024年7月17日发表于 Nature Communications 的研究,在雄鼠听音任务中追踪前扣带皮层活动,发现反馈信息能够改变下一轮声音的神经表征,而行为策略的转变往往需要更多经验积累。

关键发现

前扣带皮层中,一部分细胞兼具结果监测与价值更新相关响应;规则反转时,这类细胞的占比增大。抑制该脑区会减慢反馈引导的策略切换,而已学会规则下的表现基本保留。

阅读目录 · 7个部分

声音不变,奖励规则变了

小鼠先学会一套简单的关联:一种声音之后舔舐会获得奖励,另一种声音之后舔舐则会遭遇气流刺激。随着学习,它们逐渐只对奖励声音作出舔舐反应。团队随后改变声音与结果的关系,观察已经熟练的选择如何被新的经验改写。

稳定规则下,前扣带皮层对奖励声音的群体响应更强。奖励变得不可靠或规则反转后,两种声音的活动模式不再像此前那样分开;重新学会反转后的规则,区分又恢复了。神经活动随声音的意义变化,声音的物理身份却没有改变。

原论文图 1声音不变,奖励规则变了
声音不变,奖励规则变了
原论文 Figure 1:声音与奖励关系经历稳定、不确定、反转和重新稳定阶段,行为选择与前扣带群体表征随之变化。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗

一次意外,先在神经信号里留下痕迹

在不确定阶段,原本应得的奖励偶尔缺席,也会出现没有声音提示的奖励。刚开始,小鼠仍沿用熟悉的舔舐策略;累积更多意外结果后,对原奖励声音的响应才减少。预期奖励的舔舐和获得奖励后的舔舐速度基本稳定,变化更像是在重新评估声音的可靠性。

神经活动比行为转变更早出现差别:经历一次意外后,下一轮奖励声音引起的群体响应已经减弱,命中率却没有显著改变。于是,同一段经验可以先改变脑内对声音的响应,再在后续积累中推动行为。坚持旧选择,并不意味着新的反馈没有被处理。

原论文图 2一次意外,先在神经信号里留下痕迹
一次意外,先在神经信号里留下痕迹
原论文 Figure 2:不确定结果逐渐影响行为;单次意外后的声音响应减弱,但下一轮命中率没有显著变化。跨阶段解码显示群体表征持续漂移。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗

有些细胞既看结果,也跟着更新

团队把注意力转向单个细胞。一组细胞对奖励落空的响应比实际得到奖励时更强;另一组细胞在不确定阶段后期,对奖励声音的响应降低。前一种活动反映结果监测,后一种与声音价值逐步下调相联系。两种特征还能出现在同一个细胞上。

在这一阶段记录的549个细胞中,40个兼具两种特征。把这些细胞的记录从解码分析中去掉,对结果和任务阶段的识别准确率都会下降。它们占比不大,却携带了有助于连接“刚才发生什么”与“现在怎样评价声音”的信息。

原论文图 3有些细胞既看结果,也跟着更新
有些细胞既看结果,也跟着更新
原论文 Figure 3:结果监测与价值更新相关细胞部分重叠;在分析中排除这类双功能细胞的记录后,解码准确率降低。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗

奖励变成气流,选择更快转弯

规则彻底反转时,原先带来奖励的声音,现在在舔舐后带来气流。最初几次沿用旧选择,就会接连得到意外结果。小鼠在早期迅速减少舔舐,前扣带对原奖励声音的响应也明显降低。但单次错误后的下一轮选择,仍没有立刻显著改变。

这次记录的493个细胞中,98个同时具有结果监测和价值更新特征,占比高于不确定阶段。较强、较密集的反馈,伴随着更多这类细胞被识别出来,也伴随着更快的策略切换。改变的速度似乎取决于新经验多么持续地挑战旧预期。

原论文图 4奖励变成气流,选择更快转弯
奖励变成气流,选择更快转弯
原论文 Figure 4:规则反转后,旧奖励声音引起的舔舐与神经响应快速减少,双功能细胞占比增大;强化学习模型估计的学习率也更高。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗

反馈不只改答案,也可能改学习速度

研究团队用强化学习模型描述这一过程:每次反馈既参与调整声音的价值,也影响后续经验在更新中占多大分量。规则反转早期,模型估计的学习率高于不确定阶段,与行为更快改变的方向相符。

据此,团队提出双功能细胞可能像并行处理经验的单元。需要快速改变时,招募更多单元,提高反馈对更新的影响;环境可靠时,则让既有选择保持稳健。细胞活动和模型共同勾勒出这种解释,关键是适应速度也可以随经验而变。

重新熟练之后,上一轮仍有影响

重新学会规则以后,小鼠表现再次稳定,神经系统却并非不再关心结果。同样的奖励声音,如果上一轮得到奖励或没有得到奖励,诱发的前扣带响应仍会不同。行为总体平稳,近期经验对神经活动的影响依然可见。

统计模型进一步显示,经历反转后,过去几轮结果对当前声音响应的影响更强、延续更远。一次规则变化留下的经验,能够影响后来处理反馈的方式。稳定不是停止更新,而是新的信息与已经学会的关联保持了相对平衡。

原论文图 5重新熟练之后,上一轮仍有影响
重新熟练之后,上一轮仍有影响
原论文 Figure 5:稳定与重新稳定阶段,近期结果仍影响声音响应;反转经历后,结果历史在神经活动中的统计影响增强。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗

会做旧题,却慢于适应新规则

因果干预带来了一个鲜明区分:在稳定任务中压低前扣带活动,命中率和总体辨别表现没有显著改变;在不确定或反转阶段,同样干预却阻碍或减慢了选择调整。小鼠仍能照旧做出熟悉反应,只是更难根据新结果及时改换策略。

无论干预发生在声音出现时,还是经历意外结果时,都观察到切换受影响。这项成年雄鼠研究把前扣带皮层与反馈引导的更新联系起来,也将区域整体的因果作用,与单细胞活动提供的计算解释相衔接:灵活选择需要的不仅是记住规则,还包括根据经验决定何时修改它。

原论文图 6会做旧题,却慢于适应新规则
会做旧题,却慢于适应新规则
原论文 Figure 6:抑制前扣带活动不显著影响已建立规则的执行,却在不确定、反转阶段影响策略切换;声音期与意外结果期干预均显示这一差别。
来源:Chen W et al. · Nature communications · CC BY
查看原图与英文图注 ↗

论文信息

Chen W, Liang J, Wu Q, Han Y.
Anterior cingulate cortex provides the neural substrates for feedback-driven iteration of decision and value representation
Nature communications · 2024-07-17
DOI: 10.1038/s41467-024-50388-9