摘要
针对语言推理模型(LRMs)存在推理步骤冗余、效率低下的问题,本文提出 TRACES 框架。该框架通过实时标记推理步骤类型,监控模型行为,发现模型在得出正确答案后推理模式会发生转变。基于此,TRACES 实现了可解释的自适应早期停止机制。在多个数学及知识推理基准测试中,该方法在保持准确率的同时,显著减少了 20% 至 50% 的 token 消耗,有效提升了推理的成本效益。
AI 推荐理由
论文核心研究推理步骤的标记与监控,旨在优化推理过程的效率与成本。
研究机构
IBM Research Europe
Trinity College Dublin
ADAPT Research Centre
论文信息