Continual Learning Model Merging Preference Alignment Catastrophic Forgetting
摘要

持续学习旨在按序训练多任务模型并缓解灾难性遗忘。现有模型融合方法虽有效,但多关注平均性能,忽视部署环境差异与用户偏好。本文提出 Tunable MAGMAX 框架,引入偏好向量控制各任务参数选取比例,实现任务性能的偏好感知调控。该方法能利用少量目标数据自动构建偏好向量,无需人工指定。实验表明,该框架能有效调整模型以适应不同环境,在持续学习基准上表现优异,为差异化需求下的模型部署提供了实用方案。

AI 推荐理由

论文聚焦持续学习与模型自适应合并,核心解决灾难性遗忘与偏好适应,属自我进化范畴。

研究机构
Yokohama National University, Yokohama Kanagawa 240-8501, Japan
论文信息
作者 Kei Hiroshima, Kento Uchida, Shinichi Shirakawa
发布日期 2026-05-20
arXiv ID 2605.20803
相关性评分 9/10 (高度相关)