摘要
本文针对开放域图像到文本生成中的增量学习问题,提出了一种新的持续对齐概念,旨在动态适应视觉数据分布的变化。作者提出了高效持续对齐(ECA)方法,这是一种无需 exemplar 的增量学习方案。ECA 通过混合查询模块适配特定任务特征,利用基于 Fisher 信息矩阵的动态扩展机制调整模型结构,并结合字典回放技术保留过往知识,从而在无原始数据访问的情况下有效缓解灾难性遗忘,显著提升了模型在真实场景下的持续学习能力。
AI 推荐理由
论文提出持续对齐机制,使模型适应环境变化并保留旧知识,符合自我进化与持续学习定义。
研究机构
Department of Computer Science, William & Mary, Virginia, USA
论文信息