摘要
持久化个人代理结合长期记忆与外部环境访问,但也引入了新的安全风险:不可信外部内容可被静默写入记忆并作为可信状态复用。本文研究“隐蔽记忆注入”威胁,即攻击者通过单封邮件诱导代理写入有毒记忆、隐藏响应并影响未来行为。为此,我们提出 WhisperBench 基准测试和 MemGhost 攻击生成框架。实验表明,该方法在多种代理架构和记忆后端上均能高效实现端到端攻击,揭示了持久化记忆作为长期妥协路径的严重隐患。
AI 推荐理由
论文核心研究持久化记忆机制的安全漏洞,提出记忆注入攻击及评估框架。
研究机构
Nanyang Technological University
论文信息