检测并非解决：检索增强大语言模型中的监控与控制差距

检索增强大语言模型（RAG）常用于证据质量决定行动安全的场景，但现有评估错误地假设单轮鲁棒性可预测多轮证据累积下的表现。本文揭示了“监控 - 控制差距”：模型虽能识别矛盾证据，却未能据此约束最终建议，即发现认知冲突不等于安全解决。通过跨四个模型家族的五万多次多轮评估及机制分析（隐藏状态探测、注意力分析），研究发现危险信息虽被内部表征并获关注，却未能有效制约输出行为。在高风险应用中，必须衡量并缩小这一认知与行动的鸿沟。