摘要
长期记忆使LLM智能体能在会话间保留信息,但也引入了被 adversaries 通过污染持久记忆来操纵行为的攻击面。现有攻击多依赖单个恶意记录,忽视了多个看似良性的记忆共同诱导不安全行为的组合威胁。本文提出MemCollusion,一种自动化红队测试框架,采用“萨拉米战术”将对抗目标切片为看似无害但集体有害的记忆片段。通过构建记忆联盟并在真实跨会话环境MoltLab中评估,MemCollusion在OpenClaw上实现了高记忆保存率和攻击成功率,且能抵御良性记忆稀释和记忆级防御。
AI 推荐理由
论文核心研究LLM Agent的长期记忆机制及其安全性,提出针对记忆存储的攻击方法。
研究机构
西安交通大学
论文信息