摘要
针对大语言模型机器遗忘中现有评估指标仅能检测表面信息抑制的问题，本文提出 REBEL 框架。该方法利用基于进化的对抗性提示生成技术，主动探测并恢复看似已被遗忘的敏感数据。实验表明，REBEL 能有效从标准基准测试认为已遗忘的模型中提取残留知识，攻击成功率最高达 93%，揭示了当前遗忘方法的局限性。
AI 推荐理由
论文提出基于进化的对抗提示生成方法，核心机制为进化循环，直接对应自我进化主题。
研究机构
Jagiellonian University
Heinrich Heine Universitat Dusseldorf
论文信息