LLM Reasoning Failure Attribution Hypergraph Reflection
摘要

反思是增强大语言模型(LLM)推理的强大机制,但其有效性取决于能否准确将失败归因于特定的推理步骤,而现有模型在此方面存在不足。现有的失败归因方法要么需要昂贵的逐步反事实测试,难以随轨迹长度扩展;要么将推理轨迹视为扁平序列,忽略了内在的非线性逻辑依赖。为此,我们提出了基于超图的配对失败归因(HPFA)框架,通过对比目标失败推理路径与参考成功路径的超边来定位失败的根本原因。该方法通过缩小搜索空间,高效地定位根因,并支持通过监督微调和强化学习合成归因数据以训练轻量级归因器。在数学推理和智能体编码任务上的实验表明,HPFA能显著提高归因的准确性和效率,且训练后的归因器在测试时能持续提升推理准确率,优于缺乏图结构或配对分析的基线方法。

AI 推荐理由

论文直接针对LLM推理过程中的失败归因问题,旨在提升推理准确性,属于推理能力的核心优化。

研究机构
新加坡国立大学 北京大学 德克萨斯大学奥斯汀分校 卢森堡大学 赛博安全欧洲卓越中心(EMJM in Cybersecurity (CYBERUS))
论文信息
作者 Runchuan Zhu, Hongbin Lai, Bowen Jiang, Junrui Zhang, Zhangheng LI et al.
发布日期 2026-08-03
arXiv ID 2608.02026
相关性评分 9/10 (高度相关)