LLM 评估 语义推理 本体关系 幻觉检测
摘要

大型语言模型在许多推理基准上表现优异,但现有评估鲜少考察其区分有意义语义关系与真正无关性的能力。本文提出 CORE,包含涵盖 74 个学科的 22.5 万道选择题数据集,以及一个经过严格验证的通用领域开源基准。研究发现,尽管最先进模型在相关对上表现接近天花板,但在无关对上准确率严重下降且置信度虚高,显示出系统性的虚假关系生成。该研究指出无关性推理是 LLM 评估与安全的关键前沿。

AI 推荐理由

论文核心评估 LLM 区分语义关系与无关性的推理能力,揭示其在逻辑判断上的系统性缺陷。

研究机构
Vaikhari AI, Bangalore IIT BHU, Varanasi Tezpur University, Assam
论文信息
作者 Satyam Dwivedi, Sanjukta Ghosh, Shivam Dwivedi, Nishi Kumari, Anil Thakur et al.
发布日期 2026-02-06
arXiv ID 2602.06446
相关性评分 9/10 (高度相关)