摘要
尽管大型语言模型在利用静态预训练知识进行提示推理方面表现优异,但在上下文学习能力上存在显著不足,即难以从复杂、特定任务的上下文中动态提取、内化并应用新知识。近期在 CL-Bench 上的评估揭示了一个关键的能力差距:前沿模型平均仅能解决 17.2% 的依赖上下文的任务。本文旨在通过高质量的推理合成技术来弥合这一差距,显著提升模型在动态环境中的推理与知识应用能力。
AI 推荐理由
论文聚焦通过高质量推理合成增强上下文学习,核心在于提升动态推理能力。
研究机构
北京大学
厦门大学
清华大学
论文信息