LayerRoute：基于 LoRA 微调的输入条件自适应层跳过用于代理语言模型

代理语言系统交替执行结构化工具调用与开放式规划推理步骤，两者复杂度差异显著，但现有系统对每步施加相同计算量。本文提出 LayerRoute，一种轻量级适配器，通过 LoRA 微调和每层路由机制，实现基于输入的 Transformer 块选择性跳过。该方法在冻结主干权重的前提下，仅用极少可训练参数，使工具调用大幅跳过计算层而保留规划步骤的计算深度。实验表明，该方法在显著提升推理效率的同时，降低了困惑度，优化了模型质量。