摘要
增强记忆的LLM智能体依赖丰富的上下文进行长程推理与行动,但其记忆模块暴露了持久性的攻击面,使得研究记忆投毒威胁变得至关重要。然而,现有的仅查询攻击在大规模良性记忆池和主动输入审计这两种现实场景中往往失效。为此,我们提出了MAFIA,一种针对审计环境的仅查询记忆攻击框架。MAFIA引入了确保检索竞争力的放置策略(通过记忆探测、预算分配和调度),以及利用紧凑事实伪装绕过审计的有效载荷设计。评估显示,MAFIA的攻击成功率高达90.7%,同时将审计检测率从83.3%降至7.4%,揭示了智能体记忆系统的关键漏洞。
AI 推荐理由
论文直接针对增强记忆LLM Agent的内存模块进行攻击研究,核心聚焦于记忆注入与检索竞争。
研究机构
The Hong Kong University of Science and Technology
论文信息