摘要
代理式图检索增强生成(GraphRAG)训练语言模型代理迭代检索并推理图结构证据,以导航复杂信息网络。然而,仅基于结果的强化学习存在“答案 - 路径奖励混淆”和“搜索 - 更新歧义”问题。为此,本文提出 PathRouter,一种感知路径的训练框架。该框架联合评估轨迹的答案正确性与证据路径重叠度,通过差异化优势缩放抑制捷径行为。针对证据匮乏的轨迹,利用冻结的黄金证据教师提供令牌级 KL 指导。实验表明,该方法在多个基准上显著提升了答案 F1 值与证据路径重叠率。
AI 推荐理由
论文核心解决 Agent 在图检索中的推理路径对齐问题,优化证据链推理质量。
研究机构
北京工业大学
论文信息