LoRA 参数化记忆 零样本路由 大语言模型
摘要

针对基于 LoRA 的外部参数记忆库(EPM)现有路由方法开销大的问题,本文提出参数化解码(PMD)框架。该框架将零样本路由重构为对外部参数记忆的激活解码,无需额外训练路由组件。通过构建涵盖文档、领域及任务技能的 PMD-Bench,并实例化 PMDRouter 模型,利用单次基座模型预填充的响应幅度对 LoRA 进行评分。实验表明,该方法在多种零样本设置下实现了最优的内部信号路由性能,证明了其可行性与通用性。

AI 推荐理由

论文核心研究基于 LoRA 的外部参数记忆库的零样本路由机制,直接解决记忆访问与调度问题。

研究机构
Institute of Automation, Chinese Academy of Sciences, China MBZUAI, United Arab Emirates
论文信息
作者 Fengxian Ji, Zhuohan Xie, Jingpu Yang, Fan Zhang, Zirui Song et al.
发布日期 2026-07-05
arXiv ID 2607.04118
相关性评分 9/10 (高度相关)