Prompt Injection Security Self-Evolution Adaptive Defense
摘要

提示注入仍是LLM代理的关键威胁,现有防御往往孤立处理任务,忽视历史交互。鉴于用户请求常存在歧义,防御系统应从每次遭遇中学习并应用至后续场景。受适应性免疫系统启发,本文提出AgentAntibody,赋予LLM代理自我进化的免疫能力。该系统将用户对安全边界的理解转化为持久的抗体库,在运行时识别威胁并启动响应。随着交互进行,系统不断进化以强化对未来攻击的免疫力。实验表明,AgentAntibody在防止有害行为的同时能保留合法任务完成,性能优于现有防御。

AI 推荐理由

论文核心提出基于自适应免疫系统的自我进化机制,通过经验积累持续增强防御能力。

研究机构
南京大学 新加坡管理大学 南洋理工大学
论文信息
作者 Shihao Weng, Yang Feng, Xiaofei Xie, Jiongchi Yu
发布日期 2026-08-04
arXiv ID 2608.04053
相关性评分 9/10 (高度相关)