摘要
大型语言模型在逻辑推理方面虽取得进展,但仍落后于人类水平。上下文学习依赖高质量领域示例,但在专家稀缺的低资源领域难以应用。现有跨域样本检索方法因领域分布差异显著,效果有限。为此,本文提出 CoDA 方法,利用轻量级适配器干预中间隐藏状态,结合思维链增强的特征蒸馏与最大均值差异进行分布匹配,对齐源域与目标域的潜在推理表示。多模型家族上的实验表明,该方法显著优于现有最先进基线。
AI 推荐理由
论文核心解决逻辑推理中的跨域迁移问题,利用 CoT 引导对齐潜在推理表示。
研究机构
Le Liu
Yang Xiang
Zhiming Li
论文信息