Security Backdoor Attack Self-Evolving Skills Trajectory Poisoning
摘要

代理技能通过编码复杂任务的可复用程序来增强大语言模型(LLM)代理的能力。为解决手动编写技能在长周期任务和动态环境中适应性差的问题,研究者开发了自进化技能系统,旨在从执行轨迹中自动构建和更新技能,将技能获取从外部市场转向可信的内部演化流程。然而,这种基于轨迹的技能演化管道引入了新的攻击面:攻击者可通过诱导受损的轨迹间接操控技能演化。本文提出轨迹后门攻击(TBA),一种仅通过查询的攻击方式,通过构造特定查询引导代理执行目标动作并在轨迹中明确激活条件,从而诱使演化系统将触发依赖的规则固化为后门技能。实验表明,该方法能在保持清洁任务性能的同时可靠植入后门。

AI 推荐理由

论文核心研究自进化技能系统的安全漏洞,直接针对技能获取与演化机制。

研究机构
Emory University
论文信息
作者 Yuyang Luo, Haoran Wang, Kai Shu
发布日期 2026-08-08
arXiv ID 2608.08303
相关性评分 9/10 (高度相关)