GUI Agent Dynamic Environment Visual Memory Video Understanding
摘要

针对图形用户界面(GUI)智能体在高动态环境中因仅依赖单张截图而导致状态观测不全的问题,本文提出了 DynamicGUIBench 基准测试套件及 DynamicUI 智能体。DynamicUI 以交互过程录屏视频为输入,包含动态感知器、优化策略和反思模块。其中,动态感知器通过聚类视频帧并提取关键帧作为显著动态上下文,有效增强了智能体对界面变化的记忆与感知能力。实验表明,该方法在动态环境下显著提升了性能,同时在其他公共基准上保持竞争力。

AI 推荐理由

论文核心解决动态环境下的部分可观测问题,通过视频帧聚类和关键帧选择构建动态上下文记忆机制。

研究机构
清华大学
论文信息
作者 Enqi Liu, Liyuan Pan, Zhi Gao, Yan Yang, Chenrui Shi et al.
发布日期 2026-04-28
arXiv ID 2604.25380
相关性评分 9/10 (高度相关)