平衡思维：改进视觉语言模型中的思维链训练

视觉语言模型的多模态推理通常依赖监督微调与强化学习两阶段流程。标准监督微调中所有令牌对损失贡献均等，忽略了推理数据固有的令牌不平衡性，导致冗长推理与答案不准。本文提出 SCALe 方法，利用动态长度无关权重显式分离推理与答案段的监督。该方法通过余弦调度策略逐渐将训练重心从推理过程转移至答案部分，鼓励简洁且 grounded 的推理。实验表明，SCALe 在多种基准上优于标准微调，仅需约七分之一训练时间即可达到两阶段流程性能，结合 GRPO 更获最佳效果。