摘要
人类能灵活调整推理策略以适应问题需求,而大型语言模型(LLM)在此方面的表现尚不明确。本文提出“谜语之谜”范式,通过构造需字面解读但具谜语形式的题目,测试模型是否依赖表面特征而非内容进行推理。实验表明,LLM 在真谜语上表现优异但在变体谜语上显著下降,反之人类则相反。错误分析显示,LLM 主要因过度使用创造性推理而犯错,暗示其高分可能源于记忆检索而非灵活策略选择。
AI 推荐理由
论文核心评估 LLM 的灵活推理能力,区分模式匹配与真实推理。
研究机构
普林斯顿大学心理学系
普林斯顿大学计算机科学系
论文信息