用于语言模型推理的选择性状态空间适应与检索

低秩适应（LoRA）引入静态更新，缺乏对令牌级或实例级状态变化的显式表示。本文提出一族适配器，在两个互补粒度上引入选择性状态空间递归：令牌级的 MaLoRA 使缩放因子成为依赖输入的动态函数；上下文级的 MaRA 追踪跨段状态并检索最相关片段。在三个冻结骨干网络和两个推理基准上的实验表明，该方法显著提升了推理准确率，平均 F1 提升 6.8，且在长上下文压力下仍保持优势。