摘要
本文研究了长上下文模型中多示例思维链上下文学习(CoT-ICL)的推理能力。研究发现,标准的多示例规则在推理任务中并不适用:增加演示数量对非推理模型效果不稳定,且基于相似度的检索无法预测过程兼容性。作者提出将 CoT-ICL 视为上下文测试时学习,并据此提出曲线演示选择(CDS)方法,通过优化演示顺序显著提升了几何推理性能。该研究将长上下文窗口重新定义为结构化课程,而非单纯的检索缓冲。
AI 推荐理由
论文核心研究思维链(CoT)在上下文学习中的推理机制与扩展规律。
研究机构
香港大学工程学院计算机科学系
论文信息