GraphRAG Reinforcement Learning Reasoning Alignment Agent Training
摘要

代理式图检索增强生成(GraphRAG)训练语言模型代理迭代检索并推理图结构证据,以导航复杂信息网络。然而,仅基于结果的强化学习存在“答案 - 路径奖励混淆”和“搜索 - 更新歧义”问题。为此,本文提出 PathRouter,一种感知路径的训练框架。该框架联合评估轨迹的答案正确性与证据路径重叠度,通过差异化优势缩放抑制捷径行为。针对证据匮乏的轨迹,利用冻结的黄金证据教师提供令牌级 KL 指导。实验表明,该方法在多个基准上显著提升了答案 F1 值与证据路径重叠率。

AI 推荐理由

论文核心解决 Agent 在图检索中的推理路径对齐问题,优化证据链推理质量。

研究机构
北京工业大学
论文信息
作者 Bo Wang, Heyan Huang, Yaolin Li, Wei Tang, Yuan Zhang et al.
发布日期 2026-06-15
arXiv ID 2606.16409
相关性评分 9/10 (高度相关)