生成有效的思维链轨迹以缓解因果幻觉

尽管大语言模型在复杂推理任务中表现优异，但在事件因果关系识别中常出现严重的因果幻觉，小模型尤为明显。本文提出利用思维链（CoT）轨迹进行微调以解决该问题。研究首先确定了有效 CoT 轨迹的关键标准，并设计了生成符合这些标准的轨迹的流程。此外，本文引入了新的“因果幻觉率”（CHR）指标以量化幻觉程度。实验表明，使用该流程生成的 CoT 轨迹进行微调，不仅显著降低了小模型的因果幻觉，还提高了平均准确率，并展现出强大的泛化能力和鲁棒性。