摘要
传统持续学习主要关注通过参数中心化机制(如训练策略、架构设计和权重适应)来更新和保留知识。然而,新兴范式正在重塑持续学习的范围,超越传统的模型适应视角。例如,在线学习拓宽了更新机制的空间;测试时训练将持续学习从训练阶段扩展到推理阶段;而记忆、技能库和交互协议等外部组件则将模型能力的进化边界远远扩展至静态参数空间之外。这些发展共同表明了一种从参数为中心的学习向系统级适应的转变。为了表征这一转变,我们通过三个维度考察持续学习的演变:何时、如何以及在哪里发生学习。本文系统地调查了代表性方法,追踪了持续学习的 ongoing 转变,并讨论了由此产生的关键挑战、更广泛的影响和未来方向。
AI 推荐理由
论文核心探讨持续学习从参数中心向系统级适应的演进,涵盖自我改进与自适应机制。
研究机构
中国科学院自动化研究所
武汉大学人工智能研究院
清华大学
新加坡国立大学
上海交通大学
中国科学院大学人工智能学院
阿里巴巴集团
论文信息