元认知 置信度校准 模型评估 推理验证
摘要

本文提出“元认知探针”,一种包含五项任务、十五个槽位的探索性诊断工具,将大语言模型的置信度行为分解为五个维度:置信度校准、认识论警惕性、知识边界、校准范围及推理链验证。通过在八个前沿模型和六十九名人类受试者上的评估,该工具揭示了传统综合基准测试无法发现的模型过度自信盲区。研究发现,模型在单一任务内的校准表现优异,但在跨任务难度预测上存在显著缺陷,突显了细粒度行为诊断的重要性。

AI 推荐理由

论文聚焦 LLM 推理过程中的元认知校准与置信度评估,直接关联推理质量监控。

研究机构
Independent Researcher
论文信息
作者 Rafael C. T. Oliveira
发布日期 2026-05-11
arXiv ID 2605.09844
相关性评分 8/10 (高度相关)