Skill Unlearning Agent Security Workflow Defense
摘要

大型语言模型代理正成为文件、记忆和外部工具的操作接口。这种部署转变引发了新的技能撤销问题:即使从显式注册表中移除某项技能,代理仍可能通过档案、转录本或记忆条目等残留载体重建该技能。本文将其定义为操作技能遗忘,旨在防止已部署的代理通过基础工具重建被撤销的技能。我们引入了OBLIVION,这是一个用于检测被撤销技能复活的受控基准和防御框架。OBLIVION将每个事件建模为源到汇的工作流,应用跨表面连贯擦除以减少残留载体,并在危险汇附近使用冻结的工作流修复。实验表明,该方法在保持正常效用不变的情况下,显著降低了攻击成功率。

AI 推荐理由

论文核心研究Agent技能撤销与遗忘机制,直接针对技能管理中的残留问题提出解决方案。

研究机构
Shandong University
论文信息
作者 Zhengyang Shan, Xu Qian, Jiayun Xin, Kun Li, Yue Zhang et al.
发布日期 2026-08-08
arXiv ID 2608.08264
相关性评分 9/10 (高度相关)