摘要
本文探讨了自主调用工具、维持持久记忆并执行多步计划的代理式大语言模型系统在公共领域的应用安全性。通过对主流框架（LangChain、AutoGPT 等）的审计，发现其均缺乏原生的记忆完整性保护。实证研究表明，单一的记忆投毒攻击可导致针对特定群体的错误拒绝率飙升至 88.9%。为此，作者提出了两种轻量级包含机制：记忆完整性验证器和策略网关，能以亚毫秒级开销消除此类攻击向量，指出当前生态尚未达到“默认安全”标准。
AI 推荐理由
论文核心聚焦 Agent 记忆完整性漏洞及防御机制，属记忆安全架构研究。
研究机构
Department of Electrical and Computer Engineering, Florida International University, Miami, FL, USA
论文信息