具有模型可学习性感知数据分配的联邦推理蒸馏框架

数据分配在联邦大语言模型与小语言模型的推理协作中至关重要。现有方法未能解决双向模型可学习性差距及领域无关的推理迁移挑战。为此，本文提出 LaDa 框架，引入模型可学习性感知数据过滤器，基于模型间差距自适应分配高奖励样本，促进双向知识转移。此外，设计领域自适应推理蒸馏方法，通过对比蒸馏学习对齐推理路径联合概率，使小模型能在本地数据分布下有效掌握逐步推理能力。