摘要
代理搜索赋予大语言模型动态检索能力,但现有强化学习方法受限于知识边界校准中的奖励稀疏性。本文提出 KbSD 框架,通过密集 token 级监督、稀疏结果奖励及象限自适应优化解决该问题。KbSD 构建接收明确知识边界信号的提示增强型教师模型,生成校准推理演示,实现无需外部大模型的密集监督。此外,引入象限自适应蒸馏目标以应对不同知识状态下的异构推理分布。实验表明,该方法显著提升了任务准确率并减少了幻觉。
AI 推荐理由
核心研究代理在搜索中的推理校准,通过自蒸馏优化知识边界决策过程。
研究机构
浙江大学, 杭州, 中国
北京大学, 北京, 中国
论文信息