Continual Learning Low-Rank Adaptation Self-Evolution Parameter Efficiency
摘要

针对正交子空间方法在持续学习中因能量扩散导致知识压缩困难及容量耗尽的问题,本文提出能量集中且有序的低秩适应(E²-LoRA)。研究证明参数更新引起的输出特征漂移本质上是低秩的,沿漂移主方向保留参数可最小化重构误差。该方法通过显式排序并将知识集中于主导秩,为后续任务释放容量,并设计动态秩分配策略以平衡稳定性与可塑性。实验表明其在多个基准上达到最先进水平。

AI 推荐理由

论文聚焦持续学习中的自我适应与知识保留,直接对应 Agent 自我进化核心机制。

研究机构
School of Computer Science and Engineering, Southeast University, Nanjing, China Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China
论文信息
作者 Longhua Li, Lei Qi, Qi Tian, Xin Geng
发布日期 2026-05-26
arXiv ID 2605.27482
相关性评分 9/10 (高度相关)