摘要
本文研究了通过代码解释器（CI）增强大语言模型推理能力的关键行为属性。受自然语言推理启发，文章从外在属性（关键令牌）和内在属性（特定认知行为如验证、回溯）两个视角进行分析。研究发现，更强的 CI 推理模型表现出更高的关键令牌和认知行为频率。基于此，作者在推理阶段通过追加关键令牌提升数学等任务性能，在训练阶段通过增强认知行为优化微调与强化学习效果，同时减少了过度思考并提高了令牌效率。
AI 推荐理由
论文核心研究代码解释器增强 LLM 推理能力的内外在属性及优化机制。
研究机构
Vidyasirimedhi Institute of Science and Technology
Kasetsart University
SUT
论文信息