flexible reasoning cognitive evaluation LLM limitations pattern matching
摘要

人类能灵活调整推理策略以适应问题需求,而大型语言模型(LLM)在此方面的表现尚不明确。本文提出“谜语之谜”范式,通过构造需字面解读但具谜语形式的题目,测试模型是否依赖表面特征而非内容进行推理。实验表明,LLM 在真谜语上表现优异但在变体谜语上显著下降,反之人类则相反。错误分析显示,LLM 主要因过度使用创造性推理而犯错,暗示其高分可能源于记忆检索而非灵活策略选择。

AI 推荐理由

论文核心评估 LLM 的灵活推理能力,区分模式匹配与真实推理。

研究机构
普林斯顿大学心理学系 普林斯顿大学计算机科学系
论文信息
作者 Bella Fascendini, Kathryn McGregor, Max D. Gupta, Thomas L. Griffiths
发布日期 2026-06-25
arXiv ID 2606.27103
相关性评分 9/10 (高度相关)