摘要
人类将经验提炼为可复用的抽象(如策略和警示),以更有效地解决问题。本研究探讨大语言模型(LLM)是否也能从中受益。我们从 LLM 在 MATH 训练集上的解题轨迹中,利用更强的教师模型或模型自身提取自然语言抽象,构建可检索库。研究探索了两种使用模式:推理时检索和结合抽象增强提示的强化学习。实验表明,经验抽象显著提升了 LLM 在数学和逻辑推理基准上的性能。自提取抽象的效果与教师提取相当,且该框架可迁移至其他数据集和模型。
AI 推荐理由
论文核心研究通过经验抽象提升 LLM 在数学和逻辑推理基准上的表现,直接针对推理能力。
研究机构
Auton Lab, Carnegie Mellon University
论文信息