科学推理 上下文学习 知识位移 大语言模型
摘要

科学推理往往需要从数据中揭示隐藏结构,而非仅依赖可观测信息。本文指出,尽管大语言模型(LLM)能回忆并应用科学公式,但引入上下文示例会显著抑制这种能力,使模型转而依赖经验模式拟合而非预训练领域知识。研究在五个科学领域的 60 项潜在结构恢复任务中验证了这一“知识位移”现象。虽然准确性变化不一,但模型始终偏离了知识驱动的推理路径。这对将 LLM 部署于科学任务的应用者提出了警示:上下文示例可能削弱而非增强预期的知识支持。

AI 推荐理由

论文核心研究上下文示例如何抑制 LLM 基于知识的科学推理能力,转向经验拟合。

研究机构
Korea Advanced Institute of Science and Technology Shanghai Jiao Tong University
论文信息
作者 Chaemin Jang, Woojin Park, Hyeok Yun, Dongman Lee, Jihee Kim
发布日期 2026-04-30
arXiv ID 2604.27540
相关性评分 9/10 (高度相关)