摘要
大型语言模型代理正成为文件、记忆和外部工具的操作接口。这种部署转变引发了新的技能撤销问题:即使从显式注册表中移除某项技能,代理仍可能通过档案、转录本或记忆条目等残留载体重建该技能。本文将其定义为操作技能遗忘,旨在防止已部署的代理通过基础工具重建被撤销的技能。我们引入了OBLIVION,这是一个用于检测被撤销技能复活的受控基准和防御框架。OBLIVION将每个事件建模为源到汇的工作流,应用跨表面连贯擦除以减少残留载体,并在危险汇附近使用冻结的工作流修复。实验表明,该方法在保持正常效用不变的情况下,显著降低了攻击成功率。
AI 推荐理由
论文核心研究Agent技能撤销与遗忘机制,直接针对技能管理中的残留问题提出解决方案。
研究机构
Shandong University
论文信息