工具自适应大语言模型重排序器

生成式大语言模型在复杂查询中易产生事实幻觉，而 indiscriminately 调用搜索工具则导致延迟过高。为此，本文提出 TALRanker 框架，将点对点相关性评分形式化为代理马尔可夫决策过程。该框架采用两阶段训练范式：首先利用语言保持混合损失进行预热以防止灾难性遗忘；随后通过强化学习中的非对称成本感知奖励，促使策略在自信时跳过工具以提升效率，在不确定时检索外部证据以避免幻觉。实验表明，TALRanker 在标准及推理密集型检索基准上均达到最先进水平。