Model Editing Lifelong Learning Hierarchical Reinforcement Learning Catastrophic Forgetting
摘要

终身模型编辑(LME)旨在顺序修正已部署大语言模型中过时或不准确的知识,同时最小化对无关输入的副作用。现有方法通常对所有编辑实例静态地扰动密集的参数层,忽略了知识在模型不同层级分布的特异性,导致适应性差及灾难性遗忘。为此,本文提出 HiEdit,一种分层强化学习框架,能自适应识别每个编辑实例最相关的知识层。通过动态的实例感知层选择及稀疏性内在奖励,HiEdit 实现了精准的局部更新。实验表明,该方法在仅扰动一半层的情况下,性能显著优于现有基准。

AI 推荐理由

论文提出终身模型编辑框架,通过自适应机制持续修正知识并防止遗忘,属于典型的自我进化研究。

研究机构
Harbin Institute of Technology Beidahuang Information Co., Ltd. State Key Laboratory of Smart Farm Technologies and Systems
论文信息
作者 Yangfan Wang, Tianyang Sun, Chen Tang, Jie Liu, Wei Cai et al.
发布日期 2026-04-13
arXiv ID 2604.11214
相关性评分 9/10 (高度相关)