可验证的搜索并非可学习的思维链

本文挑战了“任何短程序可解任务均可通过思维链教给模型”的假设。通过在九个确定性推理任务上的实验，研究发现：虽然查找和算术任务易于蒸馏，但涉及回溯搜索的密码算术任务无法通过微调或强化学习转化为有效的前向思维链。模型仅能模仿验证步骤的形状而非执行搜索过程。研究表明，当任务本质为无信息结构的搜索时，不存在忠实的前向思维链；此类任务唯有将组合核心预计算为目录，退化为记忆与验证时才变得可学习。