Continual Learning Adversarial Perturbation LLM Adaptation Catastrophic Forgetting
摘要

在动态环境中,大语言模型需不断适应新任务,但持续学习常面临遗忘、迁移受限及对抗脆弱性问题。本文提出 AdvCL,将对抗扰动重构为几何控制信号以实现稳定的持续适应。该方法包含三个插件模块:Intra-Smooth 利用微小扰动促进局部平滑;Proto-Clip 通过相似度裁剪防止过度对齐当前任务原型;Inter-Align 则向历史任务原型进行方向性对齐以缩小表征差距。实验表明,该方法在标准性能与鲁棒性上均有显著提升,有效降低遗忘并增强迁移能力。

AI 推荐理由

论文核心研究持续学习中的自我适应与抗遗忘机制,属于 Agent 自我进化范畴。

研究机构
中国科学院信息工程研究所 中国科学院大学网络空间安全学院
论文信息
作者 Ran Liu, Min Yu, Mingqi Liu, Jianguo Jiang, Gang Li et al.
发布日期 2026-06-01
arXiv ID 2606.02322
相关性评分 9/10 (高度相关)