学会选择而非重学：硬路由混合推理 LoRA

将独立训练的 LoRA 适配器组合成单个大语言模型有助于多领域适应。针对冻结预训练适配器，软加权组合可能破坏原有更新尺度。本文提出硬路由 MoR-LoRA 框架，分两阶段组合冻结的推理 LoRA 专家：首先利用可验证反馈的强化学习训练领域特定的推理专家；随后冻结所有专家，蒸馏推理轨迹，仅训练轻量级共享路由器和小型注意力 LoRA。路由器采用硬 Top-1 选择机制，结合直通估计器实现梯度训练。实验表明，该方法在显著减少可训练参数的同时，有效保留了专家行为。