LLM Verification Logic Programming Vulnerability Discovery Formal Methods
摘要

大型语言模型日益用于软件漏洞推理,但其输出常违背领域知识,限制其在医疗设备等安全关键场景中的可靠性。现有工作多将输出视为预测评分或约束于单一知识图谱内的游走,未能检查基于二进制文件的推理是否与独立的领域知识一致。本文提出EntailLLM,通过蕴涵关系验证LLM提出的分析师路径:路径为二进制函数调用图的遍历,领域知识表示为独立图,并在时序注释逻辑下对齐两者。在三个CWE类别、四个LLM及七个不同规模的二进制文件上,领域知识将平均蕴涵率从78%提升至98%,且仅在3%的实验中出现下降。该系统在真实医疗设备二进制文件上端到端部署,无需针对设备调整即可达到98%的平均蕴涵率。系统继承广义注释逻辑的形式化保证,提供可解释且语义明确的LLM输出逻辑验证。

AI 推荐理由

论文核心在于验证LLM生成的漏洞发现路径的逻辑一致性,属于逻辑推理与形式化验证范畴。

研究机构
Syracuse University HRL Laboratories
论文信息
作者 Kaustuv Mukherji, Jaikrishna Manojkumar Patil, Colton Payne, Paulo Shakarian, Dana Warmsley et al.
发布日期 2026-08-03
arXiv ID 2608.01763
相关性评分 9/10 (高度相关)