记忆作为 LLM Agent 的攻击面：一项关于多项选择题回答的研究

AI Agent 通过整合语言理解、任务执行及记忆机制扩展了传统大语言模型应用。然而，记忆在保留交互历史的同时也引入了新漏洞：存储信息可影响未来输出。本文研究了基于 LLM 的 Agent 在多项选择题场景下的记忆操纵问题。作者设计并实现了一个具备外部记忆组件的 Agent，通过注入误导性或受损记忆进行实验。结果表明，简单的记忆操纵即可显著干扰 Agent 决策，导致其在面对清晰问题时选择错误选项，揭示了记忆机制的安全风险。