摘要
针对高风险领域大语言模型面临的幻觉、不一致及隐私风险,本文提出一种混合验证架构,融合形式化符号方法与神经语义分析。该架构利用逻辑推理验证输入以确保结构化需求的可判定性,并通过嵌入语义相似度检测上下文幻觉。系统在并行 Actor 管道中实现,克服了提示式自验证的分布偏差局限。在真实医疗设备损伤评估系统 HAIMEDA 中的评估显示,结构化实体幻觉检测率达 83% 以上,语义虚构检测率为 72%,报告生成时间减少 30%,证明了神经符号架构在数据敏感领域的应用价值。
AI 推荐理由
论文利用符号逻辑推理验证输入,结合神经语义分析检测幻觉,核心依赖推理机制保障可靠性。
研究机构
University of Bamberg, Bamberg, Germany
Free University of Berlin, Berlin, Germany
论文信息