摘要
终身知识编辑旨在随新知识出现或模型犯错时,高效顺序地更新语言模型,同时保持对过往知识的性能。现有方法因固定修改特定层导致灵活性不足及灾难性遗忘,且依赖历史数据统计。为此,本文提出 LOKI,利用希尔伯特 - 施密特独立性准则动态选择层级,并将梯度更新投影至模型权重的零空间,无需访问旧知识。实验表明,LOKI 在多项任务中表现优异,平均准确率提升高达 14%。
AI 推荐理由
论文聚焦终身知识编辑与自我更新,解决灾难性遗忘,属 Agent 自我进化核心范畴。
研究机构
东北大学电气与计算机工程系
论文信息