摘要
Agent技能构成了新兴的供应链,单个被污染的技能可持久危害所有安装它的Agent。现有攻击要么每次请求都触发,要么依赖微调权重或多技能,缺乏低成本的条件后门研究。本文提出ElasticBack,一种有效的条件单技能后门,在技能文档中植入规则R,在用户查询中植入良性触发器T,仅当两者共存时恶意负载才激活。通过语义锚定规则注入生成R,并利用受隐身约束的遗传搜索进化T以优化效果与隐蔽性。实验表明,该方法在保持清洁准确率的同时,实现了高攻击成功率、低误报率及跨模型迁移能力。
AI 推荐理由
论文直接针对LLM Agent的技能(Skills)供应链安全进行研究,探讨技能注入攻击。
研究机构
南京航空航天大学
重庆大学
东北大学
南洋理工大学
论文信息