LLM Security Memory Poisoning Red Teaming Agent Safety
摘要

长期记忆使LLM智能体能在会话间保留信息,但也引入了被 adversaries 通过污染持久记忆来操纵行为的攻击面。现有攻击多依赖单个恶意记录,忽视了多个看似良性的记忆共同诱导不安全行为的组合威胁。本文提出MemCollusion,一种自动化红队测试框架,采用“萨拉米战术”将对抗目标切片为看似无害但集体有害的记忆片段。通过构建记忆联盟并在真实跨会话环境MoltLab中评估,MemCollusion在OpenClaw上实现了高记忆保存率和攻击成功率,且能抵御良性记忆稀释和记忆级防御。

AI 推荐理由

论文核心研究LLM Agent的长期记忆机制及其安全性,提出针对记忆存储的攻击方法。

研究机构
西安交通大学
论文信息
作者 Zheng Lin, Yuzhe Huang, Zhenxing Niu, Xianmin Ye, Haichang Gao
发布日期 2026-08-03
arXiv ID 2608.01637
相关性评分 9/10 (高度相关)