摘要
测试时训练利用测试问题实现模型适应,是提升大语言模型推理能力的有效范式,但面临伪标签不可靠及缺乏针对模型弱点适应机制的挑战。为此,本文提出 TTSR,一种自反思的测试时自我进化训练框架。该框架使单一预训练模型在测试时交替扮演“学生”与“教师”角色:学生负责解题并从合成变体中学习,教师则分析失败轨迹、总结推理弱点并生成针对性变体问题。实验表明,TTSR 能持续提升数学推理性能,并在不同模型骨干上具有良好的泛化性。
AI 推荐理由
论文提出测试时自我进化框架,核心机制为通过师生角色交替实现持续自我反思与改进。
研究机构
北京邮电大学
中国科学院计算技术研究所
论文信息