摘要
大语言模型常通过采样多个输出并聚合答案来提升推理能力,但精确高效地控制错误率仍具挑战。特别是在停止规则依赖数据且可能答案集合未知时,决定何时停止采样尤为困难。本文研究了将预设目标答案认证为模型响应分布唯一众数的任意时刻有效性,提出 CITE 算法。该算法在任意数据驱动停止下,无需预知答案类别集即可严格控制假认证率。实验表明该方法在长尾分布场景下能有效控制误差并提升认证效果。
AI 推荐理由
论文核心研究 LLM 自一致性推理中的统计推断与误差控制,直接提升推理可靠性。
研究机构
日本
论文信息