从表格到单元格：利用 TABALIGN 实现更优推理的注意力机制

Table Reasoning Diffusion Language Models Attention Mechanism Structured Data

摘要

针对大型语言模型在结构化表格上进行多步推理时因缺乏明确的单元格 grounding 契约而失败的问题，本文提出了 TABALIGN 框架。研究发现扩散语言模型（DLM）比自回归模型能产生更符合人类直觉且对排列稳定的单元格注意力。TABALIGN 结合掩码 DLM 规划器与轻量级验证器，通过二元单元格掩码生成计划步骤，并依据注意力重叠度评分。实验表明，该方法在八个基准测试中平均准确率提升 15.76%，并显著加速了下游推理执行。

AI 推荐理由

论文核心解决结构化表格上的多步推理失败问题，提出新框架显著提升推理准确率。

研究机构

University of California, Los Angeles New Jersey Institute of Technology McGill University University of Montreal University of Manitoba SimpleWay The Hong Kong University of Science and Technology (Guangzhou)

论文信息

作者 Tung Sum Thomas Kwok, Zeyong Zhang, Xinyu Wang, Chunhe Wang, Xiaofeng Lin et al.

发布日期 2026-05-14

arXiv ID 2605.14465