摘要
针对大语言模型智能体推理成本高昂的问题,本文研究利用紧凑神经重排序器进行动作选择。通过在 ALFWorld、WebShop 和 ScienceWorld 多个环境中联合训练 DeBERTa-v3 模型,发现跨环境联合训练能显著提升性能并实现正向迁移。该方法具有极高的样本效率,仅需少量目标域数据即可恢复大部分性能。此外,文章探讨了环境感知 LoRA 适配器的路由策略,虽存在方差问题但展现了潜力,最终发布了包含五万余实例的基准数据集及模型检查点。
AI 推荐理由
论文核心研究文本智能体的动作选择机制,属于技能执行与工具使用的关键优化环节。
研究机构
Jinglue Technology Development (Nanjing) Co., Ltd.
Nanjing, China
论文信息