Self-Consistency Reasoning Trace Clustering Cost Efficiency LLM Inference
摘要

自一致性是通过采样多个候选答案并选取最常见答案来扩展推理时的标准技术。近期研究表明,加权多数投票(如置信度感知自一致性 CISC)通过为每个答案分配置信度分值,能显著提升准确率,但需调用批评模型评估每条推理轨迹,导致高昂成本。为此,本文提出 VecCISC,一种轻量级自适应框架,利用语义相似度过滤等价、退化或幻觉的推理轨迹,减少需评估的候选数量。在数学、化学等五个领域数据集上的实验表明,VecCISC 在保持或超越 CISC 准确率的同时,降低了 47% 的 token 消耗。

AI 推荐理由

论文核心研究通过聚类推理轨迹和优化候选答案选择来提升自一致性推理能力。

研究机构
Computer Science Department, Brandeis University
论文信息
作者 James Petullo, Sonny George, Dylan Cashman, Nianwen Xue
发布日期 2026-05-08
arXiv ID 2605.08070
相关性评分 9/10 (高度相关)