摘要
提示注入仍是LLM代理的关键威胁,现有防御往往孤立处理任务,忽视历史交互。鉴于用户请求常存在歧义,防御系统应从每次遭遇中学习并应用至后续场景。受适应性免疫系统启发,本文提出AgentAntibody,赋予LLM代理自我进化的免疫能力。该系统将用户对安全边界的理解转化为持久的抗体库,在运行时识别威胁并启动响应。随着交互进行,系统不断进化以强化对未来攻击的免疫力。实验表明,AgentAntibody在防止有害行为的同时能保留合法任务完成,性能优于现有防御。
AI 推荐理由
论文核心提出基于自适应免疫系统的自我进化机制,通过经验积累持续增强防御能力。
研究机构
南京大学
新加坡管理大学
南洋理工大学
论文信息