Memory Security Information Bottleneck LLM Agents Injection Defense
摘要

增强记忆的 LLM 代理易受记忆注入攻击,导致行为偏离用户意图并任务失败。现有防御机制计算成本高或多轮上下文存在信息冗余。为此,本文提出 MIND,一种轻量级防御框架。通过分析发现良性与中毒轨迹在初始意图与后续行为关系上存在差异,MIND 利用意图感知信息瓶颈提取紧凑的意图 - 行为表示,保留跨轮攻击信号同时过滤无关冗余信息,并通过轻量检测器识别恶意记忆。实验表明,该方法在保持任务准确率与推理效率的同时,显著降低了攻击成功率。

AI 推荐理由

论文核心提出针对记忆注入攻击的防御框架,直接研究记忆机制的安全性与架构优化。

研究机构
The Hong Kong University of Science and Technology Shanghai Jiao Tong University
论文信息
作者 Dongyi Liu, Haixing He, Xiaobao Wu, Jia Li
发布日期 2026-07-30
arXiv ID 2607.28103
相关性评分 9/10 (高度相关)