摘要
本文指出大语言模型虽具备识别伪造统计数据的能力，但在多源信息合成时却未能调用该能力，导致对无效与有效数据给予同等权重。研究发现，模型主要依据文本的方法论风格而非数值有效性进行判断，这种“认知对齐”缺陷在不同模型和领域间普遍存在。机制分析表明，数值有效性信号在合成过程中被抑制，而提示工程等方法仅能引发盲目怀疑，无法实现选择性辨别。
AI 推荐理由
研究 LLM 在多源信息合成中的逻辑推理缺陷，揭示其无法验证数据有效性的机制。
研究机构
Amazon
论文信息