摘要
上下文学习（ICL）对提示中的示例选择高度敏感，但最优组合的搜索空间巨大导致成本高昂。本文提出“判断比寻找更容易”的观点，即预测特定查询 - 上下文对的成功率比搜索最优示例更高效。基于此，作者提出了 DiSP 框架，通过分层查询难度、训练轻量级路由器和特定层级评判器，在显式预算下实现停止接受机制。实验表明，该方法在多个数据集上显著提升了准确率并大幅加速了推理过程。
AI 推荐理由
论文聚焦上下文学习中的示例选择以优化推理成功率，虽非直接研究推理机制，但是提升推理性能的关键。
研究机构
Research Center for Social Computing and Interactive Robotics, Harbin Institute of Technology, China
论文信息