Neuro-Symbolic Hallucination Detection Formal Verification Healthcare AI
摘要

针对高风险领域大语言模型面临的幻觉、不一致及隐私风险,本文提出一种混合验证架构,融合形式化符号方法与神经语义分析。该架构利用逻辑推理验证输入以确保结构化需求的可判定性,并通过嵌入语义相似度检测上下文幻觉。系统在并行 Actor 管道中实现,克服了提示式自验证的分布偏差局限。在真实医疗设备损伤评估系统 HAIMEDA 中的评估显示,结构化实体幻觉检测率达 83% 以上,语义虚构检测率为 72%,报告生成时间减少 30%,证明了神经符号架构在数据敏感领域的应用价值。

AI 推荐理由

论文利用符号逻辑推理验证输入,结合神经语义分析检测幻觉,核心依赖推理机制保障可靠性。

研究机构
University of Bamberg, Bamberg, Germany Free University of Berlin, Berlin, Germany
论文信息
作者 Paul Sigloch, Christoph Benzmüller
发布日期 2026-05-26
arXiv ID 2605.26942
相关性评分 8/10 (高度相关)