终身学习 知识编辑 灾难性遗忘 零空间约束
摘要

终身知识编辑旨在随新知识出现或模型犯错时,高效顺序地更新语言模型,同时保持对过往知识的性能。现有方法因固定修改特定层导致灵活性不足及灾难性遗忘,且依赖历史数据统计。为此,本文提出 LOKI,利用希尔伯特 - 施密特独立性准则动态选择层级,并将梯度更新投影至模型权重的零空间,无需访问旧知识。实验表明,LOKI 在多项任务中表现优异,平均准确率提升高达 14%。

AI 推荐理由

论文聚焦终身知识编辑与自我更新,解决灾难性遗忘,属 Agent 自我进化核心范畴。

研究机构
东北大学电气与计算机工程系
论文信息
作者 Masih Eskandar, Miquel Sirera Perelló, Stratis Ioannidis, Jennifer Dy
发布日期 2026-06-18
arXiv ID 2606.19679
相关性评分 9/10 (高度相关)