摘要
思维链提示提升了大语言模型的推理能力,但其来源尚存争议:是中间步骤的语义内容起作用,还是更多 token 带来的额外计算在生效?本文提供两方面证据:首先在分布内采样对比同一模型生成的长短推理轨迹,发现额外 token 未显著改变准确率,增益源于验证性内容而非冗长本身;其次通过控制实验对比语义相同但 verbosity 不同的轨迹,发现冗长虽有小幅提升,但取决于 prose 质量而非单纯长度。结论表明,关键在于额外 token 承载的推理与验证内容。
AI 推荐理由
论文核心探讨思维链(CoT)提升推理能力的机制,区分内容价值与长度效应。
研究机构
Fin AI Research
论文信息