摘要
有限记忆语言模型(LMLMs)将事实知识外部化至数据库,以支持无需重训练的删除式遗忘。现有评估仅衡量删除后的整体正确性,无法区分残留参数记忆、替代检索路径或近邻检索伪影导致的遗忘失败。本文提出一种因果审计框架,固定模型并在推理时干预数据库状态,将行为分解为参数泄露、检索介导的正确性及检索伪影率。实验表明参数泄露近乎为零,残留主要源于检索图中的近邻效应,遗忘边界主要由数据库管理员而非模型决定。
AI 推荐理由
论文核心研究有限记忆语言模型的记忆外部化机制、参数记忆泄露及检索残留问题。
研究机构
University of California, Berkeley, Berkeley, California, United States of America
论文信息