通过动态认知协调解码缓解大语言模型中的上下文 - 记忆冲突

大语言模型通过预训练积累大量参数知识，但当过时或错误的参数知识与上下文中的外部知识冲突时，会产生知识矛盾。现有对比解码方法在无冲突场景下会破坏输出分布，而动态方法难以应对复杂现实情况。本文提出动态认知协调解码（DCRD），通过分析注意力图评估上下文忠实度并预测冲突，据此选择贪婪解码或基于忠实度的动态解码路径。该方法在高效处理冲突的同时，保证了无冲突情况下的高准确率与效率。此外，构建了 ConflictKG 基准以模拟频繁知识更新场景，实验表明 DCRD 在多个数据集上优于现有基线。