迈向机理理解：为何大语言模型微调中记忆化的知识无法泛化

微调大语言模型注入新知识面临关键挑战：模型能快速记忆事实，却无法在下游推理任务中有效利用。我们将此现象形式化为“知道 - 使用差距”，其特征为记忆与泛化之间存在准确率差距和时间滞后。通过一种名为“自修补”的新干预技术，我们监测了知识在模型内部的空间渗透动态。结果表明，记忆化的表征虽存在于内部，但未被路由至计算有效的层，导致知识电路错位。基于此诊断，我们设计了一种启发式策略，恢复了 58%-75% 的泛化失败潜力，并在跨域实验中验证了该发现的鲁棒性。