OEP：通过局部正确但不可迁移的经验毒害自我进化的 LLM 智能体

记忆增强的 LLM 智能体利用迭代反思与自我进化解决复杂任务，但这引入了安全风险。现有攻击需特权访问或显式恶意内容，易被检测。本文探索了一种更隐蔽的攻击面：诱导智能体生成局部正确但导致有害泛化的经验。我们提出“强迫性经验投毒”（OEP），一种低权限黑盒攻击，通过构建结合局部正确解、不可迁移方法及严重后果的对抗性边缘案例， bias 反思过程形成过度谨慎的规则。评估显示，OEP 在 GPT-4o 上攻击成功率超 50%，且优于现有防御下的攻击方法。