CRAM：用于多模态持续指令微调的质心路由与自适应混合专家模型

多模态大语言模型虽通过指令统一了异构任务，但实际部署需持续扩展能力，使得多模态持续指令调优至关重要。现有方法在共享参数更新导致遗忘与独立模块扩展导致低效之间难以权衡。为此，本文提出 CRAM 框架：通过将特定任务模式隔离至独立模块以缓解灾难性遗忘；利用自适应秩实例化动态分配必要参数以提升效率；结合质心引导路由复用已有专家能力，并通过正交惩罚约束新更新方向，防止通用能力重学。实验表明该方法显著优于现有技术。