摘要
类增量学习旨在不断获取新知识同时保留旧信息,以缓解灾难性遗忘。现有方法多限制参数更新,却忽视高维空间中的结构特性。不同任务引发的更新往往位于重叠的低秩子空间中,导致跨任务干扰。为此,本文提出 HDSD 框架,通过轻量级特征调制模块将参数空间显式分解为通用与特定任务子空间。结合通用融合模块捕捉稳定知识,以及基于 SVD 的层次化学习模块约束更新尺度,有效减少了子空间干扰与参数漂移,在基准测试中取得了最先进结果。
AI 推荐理由
论文聚焦持续学习以缓解灾难性遗忘,属于 Agent 自我进化与自适应能力的核心机制研究。
研究机构
School of Electronic Engineering, Xidian University Xi'an 710071, China
论文信息