摘要
自一致性通过采样多条推理路径并选择最频繁答案来提升大语言模型性能,但多数投票常无法恢复样本中已存在的正确答案。本文提出排序改进的自一致性(RISC),将答案选择重构为排序问题。RISC 利用轻量级 LambdaRank 模型,结合五个精心设计的特征(涵盖答案频率、语义中心性及推理轨迹一致性)对候选答案评分。实验表明,RISC 在多个数据集上实现了优于标准自一致性及强基线的准确率 - 效率权衡,尤其在问答基准上增益显著。
AI 推荐理由
论文核心研究自一致性推理机制,提出排序改进方法以提升 LLM 推理准确率。
研究机构
AIRI
Skoltech
EPFL
论文信息