摘要
本文展示了微型Transformer能有效利用一种简单的思维链形式,称为“原型推理”(protoreasoning)。这使得我们能够在约100万参数规模的模型上研究逐步推理,并为比大型模型更细致的实验分析提供了机会。尽管当前大语言模型表现出令人印象深刻的逐步推理能力,但其普遍性——即模型何时以及如何学习真正的通用算法而非启发式集合——尚不清楚。鉴于在计算密集型前沿模型上难以解决这些问题,我们在远低于自然语言能力的模型规模下,基于Dyck语言定义了推理友好型任务。研究发现,原型推理轨迹显著缩小了分布外泛化差距,消融实验证实这种提升源于轨迹内容本身,而非额外的token数量。
AI 推荐理由
论文核心研究小模型中的思维链推理机制(Protoreasoning),直接探讨逐步推理的泛化能力。
研究机构
Fin AI Research
论文信息