摘要
随着大语言模型部署于动态环境,持续微调至关重要,但易引发灾难性遗忘。现有重放策略存在启发式局限或计算开销过大问题。受序列微调下记忆保持动态启发,本文提出记忆感知采样与调度重放(MSSR)框架。该方法估计样本级记忆强度,并以自适应间隔安排复习,旨在缓解遗忘同时保持快速适应。在三个基座模型和十一个连续任务上的实验表明,MSSR 显著优于现有最先进基线,尤其在推理密集和多选基准上表现突出。
AI 推荐理由
论文核心解决持续学习中的灾难性遗忘,通过自适应重放机制实现模型的自我进化与持续适应。
研究机构
清华大学
论文信息