摘要
长期记忆使LLM代理能复用先前的偏好和工作流,但也导致不可信观察结果转化为持久的行动上下文。本文识别出“记忆来源清洗”问题:在基于LLM的记忆整合过程中,外部观察可能被重写为看似用户历史或工作流支持的内容,从而保留行动触发器但擦除应限制其权限的低信任源。现有的提示过滤器和内容清理工具无法在无损记忆整合后强制执行来源-权威非放大原则。为此,我们形式化了这一边界,并实例化为“保持来源的记忆防火墙”(PPMF),这是一种轻量级记忆中间件,通过匹配行动风险与相关记忆的权威性来授权工具调用。评估显示,在固定风险策略下,易受攻击的整合记忆攻击成功率高达1.000;而引入平台维护的来源、确认和风险标签后,PPMF成功拦截了所有未经授权的高风险行动,同时保留了良性行动和低风险记忆使用的执行能力。
AI 推荐理由
论文直接针对LLM Agent的长期记忆机制,提出解决记忆来源污染的安全框架PPMF。
论文信息