摘要
在持续学习场景中，模型需兼具学习新任务的可塑性与保留旧知识的稳定性。本文指出该困境源于固定容量架构无法适应未知未来任务流的资源需求。受生物神经发生启发，提出 NORACL 方法，通过监控表征与可塑性饱和信号，动态生长网络结构。实验表明，NORACL 在参数量更少的情况下，性能媲美或优于预设容量的静态基线，且能根据任务差异解释性地扩展不同层级，有效推动了持续学习的稳定性 - 可塑性帕累托前沿。
AI 推荐理由
论文提出基于神经发生的自适应架构生长机制，解决持续学习中的稳定性 - 可塑性困境，属于自我进化核心研究。
研究机构
Institute of Neuroinformatics, University of Zurich & ETH Zurich, Switzerland
论文信息