抽象作为持续学习中一种记忆高效的归纳偏置

现实世界非平稳且无限复杂，要求智能体在不重新训练的前提下持续学习。针对在线持续学习中新知干扰旧知导致的遗忘问题，本文提出抽象增强训练（AAT）。该方法通过在损失层面鼓励模型捕捉示例间的潜在关系结构，联合优化具体实例及其抽象表示，引入了一种记忆高效的归纳偏置。AAT 能在严格在线数据流中稳定学习，无需重放缓冲区。实验表明，AAT 在零额外内存消耗下，性能媲美或超越强基线经验回放方法，证明了结构抽象是替代经验回放的有力方案。