self-distillation reasoning collapse mathematical reasoning optimization pathology
摘要

策略自蒸馏(OPSD)虽能增强大模型,但在复杂推理任务中常导致性能下降。本文系统研究了这一病理,定义了“思维崩溃”现象,即模型原生中间推理行为的急剧衰退。分析表明,高学生熵决策点处的激进教师梯度是诱因。为此,提出自适应双视角 OPSD(AD-OPSD)框架,通过非对称逐点发散门控动态调节蒸馏目标,将高风险令牌锚定至冻结基座模型的参考先验。实验显示,该方法在多种数学基准上显著优于标准 OPSD,有效缓解了思维崩溃并保留了纠错能力。

AI 推荐理由

论文核心研究复杂推理任务中的思维崩溃现象及缓解机制,直接针对推理能力。

研究机构
北京理工大学 香港理工大学 阿里巴巴集团
论文信息
作者 Keqin Peng, Chen Li, Yuanxin Ouyang, Yancheng Yuan, Liang Ding
发布日期 2026-07-12
arXiv ID 2607.10805
相关性评分 9/10 (高度相关)