Causal Reasoning Context Dependence LLM Safety Self-Correction
摘要

本研究探讨了大语言模型(LLM)从学术语境转向实际咨询语境时,其“因果谨慎”(即在证据不足时避免做出因果判断的倾向)被系统性抑制的现象。基于 Pearl 因果层级设计的评估指标显示,四款主流模型在实际建议场景下的因果谨慎维持率显著下降,但在引入简短的自我修正提示后可大幅恢复。结果表明,这种抑制源于对“有用性”的过度追求而非能力缺失,暗示分离提案生成与因果审计的多智能体架构可能是有效的治理方案。

AI 推荐理由

论文核心研究 LLM 在因果推理中的谨慎性机制及其情境抑制与恢复。

研究机构
Mitsubishi Research Institute, Inc. Kobe University
论文信息
作者 Hiroshi Okumura
发布日期 2026-06-23
arXiv ID 2606.24370
相关性评分 9/10 (高度相关)