摘要
大型语言模型虽广泛应用于决策领域，但存在致命缺陷：即便内部推理发生漂移，仍能生成流畅输出，导致高置信度回答掩盖不确定性。本文作为系列研究首篇，提出双层方法以稳定人机推理：人类侧引入不确定性提示与可审计轨迹，模型侧开发认识控制循环以检测不稳定性。该框架旨在揭示推理过程中的漂移，提升治理精度，符合欧盟 AI 法案等合规要求，强调流畅性不等于可靠性。
AI 推荐理由
论文核心聚焦于解决 LLM 推理漂移与不一致问题，提出稳定人机推理的框架。
研究机构
Faculty of Medicine, Lund University, Sweden
Department of Economics, Lund University School of Economics and Management, Sweden
Department of Health Services Research and Policy, London School of Hygiene & Tropical Medicine, UK
论文信息