Benchmark Misleading Evidence Evidence Verification Agent Robustness
摘要

深度研究智能体常在开放网络中运行,面临冗余及误导性文档的挑战。本文提出 DRNOISE 基准,包含 100 个任务,旨在评估智能体在存在直接冲突的虚假证据时的答案恢复能力。实验显示,单一误导性文档导致准确率大幅下降 66-88%。轨迹分析表明,“验证惰性”是主要失败模式:智能体虽检索到真实记录,却未完成证据链的协调与 reconciling,转而采信看似直接的错误答案。研究表明,可靠的深度研究需超越简单的检索与引用,必须主动协调直接主张与底层证据。

AI 推荐理由

核心研究 Agent 在误导信息下的证据验证与逻辑推理能力,揭示推理失效模式。

研究机构
香港浸会大学 中国科学技术大学 香港科技大学
论文信息
作者 Jun Nie, Zhiqin Yang, Zhenheng Tang, Yonggang Zhang, Xiaowen Chu et al.
发布日期 2026-07-19
arXiv ID 2607.17291
相关性评分 9/10 (高度相关)