摘要
强化学习在代码生成等推理密集型任务中表现优异,但轨迹多样性受限导致性能瓶颈。现有搜索增强方法受限于单智能体策略先验,而多智能体方法往往缺乏结构化搜索。本文提出 MARS$^2$,一种统一的强化学习框架,使多个独立优化的智能体在共享树结构搜索环境中协作。该方法将搜索树建模为可学习的多智能体交互环境,并引入基于树一致性奖励塑造的路径级群体优势公式,以优化复杂轨迹下的信用分配。实验表明,该方法显著提升了代码生成性能。
AI 推荐理由
论文核心提出多智能体树搜索框架,通过结构化探索解决代码生成中的规划与路径搜索问题。
研究机构
上海人工智能实验室
上海创新研究所
哈尔滨工业大学
论文信息