摘要
语言模型常分阶段适应：公共技能、私有记忆及后续安全阶段。安全训练会改变记忆方向，导致简单减法无法有效撤销记忆。本文引入“进程侧车”方法，利用安全训练过程的雅可比信息构建双系数编辑族，以精确抵消记忆更新。理论证明该方法在二阶精度上恢复反事实安全状态，优于传统任务算术。实验表明，该方法在多个模型上显著提升了拒绝响应的闭合效果。
AI 推荐理由
论文核心解决记忆更新后的撤销问题，提出新机制处理安全训练对记忆方向的干扰。
研究机构
Sideplane AI
论文信息