GUI Grounding Reinforcement Learning Multimodal Agent GRPO
摘要

针对将组相对策略优化(GRPO)应用于 GUI 定位时,单截图采样导致对比组缺乏有效相对优势的问题,本文提出 VISTA 框架。该方法基于同一 GUI 实例的多个保目标视图构建对比组,通过裁剪保持目标可见并精确重映射坐标,实现语义等价但几何不同的输入对比。此外,引入自验证跨视图锚点稳定坐标生成,仅在模型获得最大奖励时激活。实验表明,VISTA 在多个基准测试中显著提升了定位准确率与鲁棒性。

AI 推荐理由

论文核心研究 GUI Grounding 技能,通过多视图训练显著提升 Agent 工具使用与定位能力。

研究机构
浙江大学 Venus Team, Ant Group
论文信息
作者 Xinyu Qiu, Yunzhu Zhang, Heng Jia, Shuheng Shen, Changhua Meng et al.
发布日期 2026-06-12
arXiv ID 2606.14579
相关性评分 9/10 (高度相关)