摘要
针对大模型持续适应新任务时的灾难性遗忘与高重训成本问题，本文提出 Share 方法。该方法通过动态更新单一共享低秩子空间，无需数据回放或多适配器即可实现高效参数微调。Share 从过往任务提取核心知识并增量整合新信息，促进正向知识迁移同时最小化干扰。实验表明，该方法在多项任务中显著降低参数与内存消耗，性能媲美联合训练模型，为大规模 AI 系统的终身学习提供了可扩展解决方案。
AI 推荐理由
论文提出持续学习方法，解决灾难性遗忘，实现模型自我进化与知识增量整合。
研究机构
约翰霍普金斯大学计算机科学系
论文信息