摘要
本文研究了推理模型在不同实例间计算量差异显著时,学习到的停止规则何时优于简单的置信度或收敛阈值。作者提出 LearnStop,一种无需隐藏状态的检查点停止器,通过分析答案置信度、熵等在线特征预测前缀正确性。实验涵盖 18 种任务 - 模型设置,结果表明:在自由形式数学任务中,多特征学习停止能显著提升固定预算下的性能边界;而在选择题或极难任务中,标量规则更具竞争力。结论指出,学习停止的价值取决于推理轨迹结构,并非通用替代方案。
AI 推荐理由
论文核心研究推理模型中的动态停止机制,直接优化推理过程的计算效率与准确性。
研究机构
University of Maine at Presque Isle
Stanford University
Independent Researcher
论文信息