摘要
强化学习是提升大语言模型智能体长程搜索任务表现的重要范式,但现有方法常因未评估中间状态效用而浪费计算资源。本文提出基于信息增益的展开策略优化(IGRPO)框架,将中间状态的信息量作为展开收集的核心原则。该方法通过感知预算的树结构展开,依据节点信息量分配扩展预算,优先扩展高信息量分支并抑制低价值分支。实验表明,在相同预算约束下,IGRPO 在七个搜索增强问答基准上均优于强基线,验证了利用诱导教师分布指导策略优化的有效性。
AI 推荐理由
论文提出基于信息增益的树形展开策略,优化多步决策中的资源分配,核心解决长程任务规划问题。
研究机构
Shanghai Jiao Tong University
论文信息