VLM Agents Spatial Memory Safety Memory Staleness
摘要

增强记忆的视觉语言模型(VLM)代理依赖持久的空间知识,但这些知识会随环境变化而悄然过时。本研究探究当代理必须调和自信的记忆主张与矛盾观察结果时会发生什么,以及当前模型能否在导致安全事故前发现冲突。通过在动态FrozenLake测试床上的实验,结合过时检测任务与下游导航任务,评估了多个闭源和开源VLM模型。研究发现:文本可解性不意味着视觉接地可靠;盲目信任过时记忆是安全隐患;审计虽有帮助但无法完全弥合差距。研究将空间记忆过时性框架为一种安全失效模式,并指出可靠的视觉接地和动作选择是核心挑战。

AI 推荐理由

论文核心探讨VLM Agent中空间记忆的时效性问题及其对安全的影响,直接研究记忆机制的缺陷与增强。

研究机构
光年速算(深圳)科技有限公司 香港科技大学
论文信息
作者 Yushi Sun, Yanjie Zhang
发布日期 2026-08-05
arXiv ID 2608.04574
相关性评分 9/10 (高度相关)