preference alignment negative sample construction ARC abstract reasoning
摘要

抽象与推理语料库(ARC)包含需从有限网格样本中总结模式并预测输出网格的任务。近期许多基于大语言模型的方法尝试将其转化为文本推理任务,但开源模型效果不佳,闭源模型成本过高。现有工作多聚焦数据增强以构建 ARC 类数据进行监督微调。本文指出,解决此类问题不仅需要正样本监督,还需通过区分负样本来提升推理能力。为此,借鉴偏好对齐思想,提出 DiARC 方法,通过构建偏好对使模型学会区分。具体提出了三种负样本构建方式:输出级视觉变换、DSL 级规则反转及任务特定规则编辑。实验表明该方法在多个 ARC 类基准上均优于基线模型。

AI 推荐理由

论文核心聚焦提升 LLM 在 ARC 任务中的抽象与推理能力。

研究机构
深圳大学计算机科学与软件工程学院
论文信息
作者 Yuxuan Yang, Feiyang Li, Yile Wang
发布日期 2026-06-25
arXiv ID 2606.26530
相关性评分 9/10 (高度相关)