面向无标注大语言模型自蒸馏的神经元感知数据选择

针对缺乏真实交互反馈或人工标注的监督后训练难题，本文提出神经元在线策略自蒸馏（Neuron-OPSD）框架。该方法利用内部神经元激活引导训练数据选择及教师上下文构建，通过在线策略蒸馏从教师分布中学习，无需任何真实标签。实验表明，Neuron-OPSD 在提升领域内任务性能的同时，保持了跨域泛化能力，并有效缓解了校准崩溃问题，特别适用于在线交互或外部监督成本高昂的场景。