摘要
思维链(CoT)推理是激活大语言模型潜在推理能力的有效方法,但现有研究多将其作为推理时提示,鲜少复用为半监督学习信号。本文定义半监督思维链学习并提出 Semi-CoT 框架,利用无标签问题构建伪推理监督。该方法通过采样多条伪 CoT 并估算答案级语义熵,筛选低熵链条作为可靠演示。实验表明,熵门控机制能高精度筛选伪 CoT,但在部分数据集上增益有限或出现负迁移,表明无标签数据虽能提供可靠信号,仍需更强的筛选或训练策略。
AI 推荐理由
论文核心研究思维链(CoT)推理的半监督学习机制,直接提升模型推理能力。
研究机构
University of Warwick
University of Cambridge
Manifolds.AI
论文信息