摘要
针对基于 LoRA 的外部参数记忆库(EPM)现有路由方法开销大的问题,本文提出参数化解码(PMD)框架。该框架将零样本路由重构为对外部参数记忆的激活解码,无需额外训练路由组件。通过构建涵盖文档、领域及任务技能的 PMD-Bench,并实例化 PMDRouter 模型,利用单次基座模型预填充的响应幅度对 LoRA 进行评分。实验表明,该方法在多种零样本设置下实现了最优的内部信号路由性能,证明了其可行性与通用性。
AI 推荐理由
论文核心研究基于 LoRA 的外部参数记忆库的零样本路由机制,直接解决记忆访问与调度问题。
研究机构
Institute of Automation, Chinese Academy of Sciences, China
MBZUAI, United Arab Emirates
论文信息