摘要
科学推理往往需要从数据中揭示隐藏结构,而非仅依赖可观测信息。本文指出,尽管大语言模型(LLM)能回忆并应用科学公式,但引入上下文示例会显著抑制这种能力,使模型转而依赖经验模式拟合而非预训练领域知识。研究在五个科学领域的 60 项潜在结构恢复任务中验证了这一“知识位移”现象。虽然准确性变化不一,但模型始终偏离了知识驱动的推理路径。这对将 LLM 部署于科学任务的应用者提出了警示:上下文示例可能削弱而非增强预期的知识支持。
AI 推荐理由
论文核心研究上下文示例如何抑制 LLM 基于知识的科学推理能力,转向经验拟合。
研究机构
Korea Advanced Institute of Science and Technology
Shanghai Jiao Tong University
论文信息