摘要
终身模型编辑(LME)旨在顺序修正已部署大语言模型中过时或不准确的知识,同时最小化对无关输入的副作用。现有方法通常对所有编辑实例静态地扰动密集的参数层,忽略了知识在模型不同层级分布的特异性,导致适应性差及灾难性遗忘。为此,本文提出 HiEdit,一种分层强化学习框架,能自适应识别每个编辑实例最相关的知识层。通过动态的实例感知层选择及稀疏性内在奖励,HiEdit 实现了精准的局部更新。实验表明,该方法在仅扰动一半层的情况下,性能显著优于现有基准。
AI 推荐理由
论文提出终身模型编辑框架,通过自适应机制持续修正知识并防止遗忘,属于典型的自我进化研究。
研究机构
Harbin Institute of Technology
Beidahuang Information Co., Ltd.
State Key Laboratory of Smart Farm Technologies and Systems
论文信息