摘要
本文提出“元认知探针”,一种包含五项任务、十五个槽位的探索性诊断工具,将大语言模型的置信度行为分解为五个维度:置信度校准、认识论警惕性、知识边界、校准范围及推理链验证。通过在八个前沿模型和六十九名人类受试者上的评估,该工具揭示了传统综合基准测试无法发现的模型过度自信盲区。研究发现,模型在单一任务内的校准表现优异,但在跨任务难度预测上存在显著缺陷,突显了细粒度行为诊断的重要性。
AI 推荐理由
论文聚焦 LLM 推理过程中的元认知校准与置信度评估,直接关联推理质量监控。
研究机构
Independent Researcher
论文信息