摘要
推荐领域的思维链（CoT）蒸馏是强化学习训练的关键前提，但原始教师轨迹存在推理不确定性高、冗余重复等问题，导致学生模型过度冗长且缺乏修正能力。此外，教师轨迹对小模型而言分布外差异显著。本文提出 SCOReD 框架，首先将教师轨迹解析为类型化片段，利用学生模型注意力机制评分；随后动态选择编辑操作（保留/重写/融合/剪枝），以适配学生输出分布。实验表明，该方法在提升 NDCG 和 Recall@5 的同时，显著缩短了推理长度。
AI 推荐理由
论文核心在于优化思维链（CoT）推理过程，通过剪枝和重写提升学生模型的推理效率与质量。
研究机构
University of California Riverside
论文信息