对比式在线策略蒸馏

本文提出对比式在线策略蒸馏（COPD）框架，旨在解决现有方法仅依赖令牌级分布匹配而缺乏推理模式偏好信号的问题。该方法利用冻结教师模型在轻/重推理指令下的评分差异，构建令牌级优势信号，引导学生模型学习更简洁高效的推理策略。实验表明，COPD 在九个多模态基准上显著缩短了推理长度且未牺牲性能，并可无缝集成至自蒸馏框架中实现模型自我轻量化进化。