ProvenanceGuard：面向基于 MCP 的 LLM Agent 的源感知事实性验证

针对使用模型上下文协议（MCP）的工具型 LLM Agent，本文指出传统事实验证忽略了“跨源混淆”问题，即结论虽有据可依但归因错误。为此，作者提出 ProvenanceGuard，一种源感知验证器。该系统解析 MCP 轨迹，将回答分解为原子主张，路由至特定来源证据，利用自然语言推理和令牌对齐技术检查支持度并比对归因准确性。在医疗领域评估显示，其在阻断错误回答和来源准确率上显著优于无源基线，且能有效修复错误，证明了来源归因是 Agent 事实性验证的关键维度。