摘要
思维模式融合(TMF)使大语言模型能在单一架构中支持简洁回答与长程推理。然而,两种模式间的数据比例和训练调度等训练动态尚待探索。本文系统研究了TMF的训练动力学,构建了包含多种数据比例和三种训练调度的基准,专注于数学问题解决。研究发现两种模式存在非对称交互:增加非思维监督会降低思维模式的准确率。不同训练调度可调节此权衡,且最优调度取决于数据比例。最后,我们量化了非思维与思维模式监督间的负相关关系,揭示了两者固有的张力,为设计有效的TMF训练设置提供了实践指导。
AI 推荐理由
论文聚焦于LLM的数学推理能力,研究思维模式融合对推理性能的影响及训练策略。
研究机构
Institute for Logic, Language and Computation, University of Amsterdam
INDE Lab, University of Amsterdam
论文信息