摘要
多模态大语言模型需适应不断变化的任务与领域,但在受限部署 footprint 下实现持续改进极具挑战。本文研究固定足迹持续适应问题,即在保持骨干模型不变且外部化任务特定更新的前提下,将部署状态控制在固定内存预算内。我们提出 InduceKV,一种基于检索的方法,将选定的训练前缀存储为注意力就绪的记忆条目,包含冻结的检索键和紧凑的分层键值(KV)负载,可直接追加至模型自注意力缓存中。在严格内存限制下,InduceKV 通过双层选择构建紧凑诱导集,平衡当前任务似然、锚点保留及检索空间覆盖率。实验表明,该方法在多种持续学习场景下均优于现有基线。
AI 推荐理由
论文提出 InduceKV,核心是通过诱导 KV 记忆实现固定足迹的持续适应,直接研究记忆架构。
研究机构
Nanyang Technological University
University of Science and Technology of China
Shenzhen Campus of Sun Yat-sen University
论文信息