摘要
在动态环境中,大语言模型需不断适应新任务,但持续学习常面临遗忘、迁移受限及对抗脆弱性问题。本文提出 AdvCL,将对抗扰动重构为几何控制信号以实现稳定的持续适应。该方法包含三个插件模块:Intra-Smooth 利用微小扰动促进局部平滑;Proto-Clip 通过相似度裁剪防止过度对齐当前任务原型;Inter-Align 则向历史任务原型进行方向性对齐以缩小表征差距。实验表明,该方法在标准性能与鲁棒性上均有显著提升,有效降低遗忘并增强迁移能力。
AI 推荐理由
论文核心研究持续学习中的自我适应与抗遗忘机制,属于 Agent 自我进化范畴。
研究机构
中国科学院信息工程研究所
中国科学院大学网络空间安全学院
论文信息