摘要
大型语言模型(LLM)Agent 虽能通过长程规划与执行轨迹解决复杂任务,但在定位已完成轨迹中的错误方面仍显不足,尤其是“静默失败”场景。现有方法多通过分类器预测可疑步骤或重试恢复,却未利用干预结果反馈以优化归因本身。本文提出 REFLECT 方法,通过诊断候选错误步骤,利用特定诊断补丁进行受控重放测试,并将验证后的结果翻转作为对比证据来修正最终归因。在四个跨领域多跳推理基准测试中,该方法在同级审计器中取得了最高的定位准确率,尤其在结构化工具使用轨迹上增益显著,且能在无真实答案时提供可操作的定位。
AI 推荐理由
论文核心解决 LLM Agent 在长程推理链中的错误归因问题,直接提升推理可靠性。
研究机构
University of California, Los Angeles, USA
Guang Cheng, guangcheng@ucla.edu
论文信息