面向可靠问答的知识依赖估计

可靠的问答系统不仅需判断答案正确性，还需识别预测所依赖的具体知识来源。在基于大语言模型的实际问答中，这些知识可能源自上下文、检索结果、分解步骤或中间推理，构成噪声大且冗余的候选空间。本文研究“知识依赖估计”，旨在评估固定黑盒问答模型对不同候选知识单元的敏感度。我们提出 Knot，一种结构化秩感知知识依赖估计器，通过子集级反事实监督学习，建模潜在依赖因子的覆盖度以推导单元评分。实验表明，Knot 在多个基准上优于基线，能有效标记高风险预测。