摘要
针对高风险场景下的主张验证问题,本文提出了推理时论证(ITA)框架。这是一种可训练的神经符号方法,利用形式化论证语义指导大语言模型生成论证并分配基础分数,进而计算三元(真/假/不确定)预测。该方法在训练时优化论证质量,在推理时确保预测结果由显式论证结构确定性导出,避免了传统事后解释的不忠实性。实验表明,ITA 在两个数据集上优于论证基线,并能提供可 inspect 的忠实判决。
AI 推荐理由
提出神经符号论证框架,核心优化 LLM 在推理时的论证生成与逻辑判定能力。
研究机构
Department of Computing, Imperial College London
论文信息