Continual Learning KV Cache Multimodal LLM Memory Efficiency
摘要

多模态大语言模型需适应不断变化的任务与领域,但在受限部署 footprint 下实现持续改进极具挑战。本文研究固定足迹持续适应问题,即在保持骨干模型不变且外部化任务特定更新的前提下,将部署状态控制在固定内存预算内。我们提出 InduceKV,一种基于检索的方法,将选定的训练前缀存储为注意力就绪的记忆条目,包含冻结的检索键和紧凑的分层键值(KV)负载,可直接追加至模型自注意力缓存中。在严格内存限制下,InduceKV 通过双层选择构建紧凑诱导集,平衡当前任务似然、锚点保留及检索空间覆盖率。实验表明,该方法在多种持续学习场景下均优于现有基线。

AI 推荐理由

论文提出 InduceKV,核心是通过诱导 KV 记忆实现固定足迹的持续适应,直接研究记忆架构。

研究机构
Nanyang Technological University University of Science and Technology of China Shenzhen Campus of Sun Yat-sen University
论文信息
作者 Qianyu Chen, Ziteng Feng, Canran Xiao, Runxuan Tang
发布日期 2026-07-02
arXiv ID 2607.02010
相关性评分 9/10 (高度相关)