reasoning backtracking error correction supervised fine-tuning
摘要

许多推理任务无法由单一的从左到右链条描述,求解者常需探索分支、观察延迟失败并回退至可完成的前缀。本文提出 Pyligent 框架,将推理表示为对部分解链的验证搜索。利用任务验证器标记生成延续与失败,构建监督目标以训练继续、完成和回溯三种动作。在隐藏有向图、数独及 BlocksWorld 等任务上的实验表明,相比仅使用黄金数据微调,该方法显著提升了求解率,证明显式的失败分支监督能教会模型超越模仿 polished 解链的有用恢复行为。

AI 推荐理由

论文提出针对推理失败恢复的训练框架,核心解决复杂推理中的回溯与修正机制。

研究机构
Innopolis University, Innopolis, Russia Lomonosov Moscow State University, Moscow, Russia
论文信息
作者 Dmitry Beresnev, Vladimir Makharev, Roman Khalikov, Ivan Oseledets, Petr Anokhin
发布日期 2026-07-08
arXiv ID 2607.07492
相关性评分 9/10 (高度相关)