摘要
深度研究代理通过将开放性问题分解为子任务、多轮检索网络证据并合成报告来工作。该流程在规划层产生了投毒面:进入检索池的对抗性文档可引导后续提问,将局部注入转化为报告级污染。本文提出 FORGE 攻击,结合文档内推理伪造与文档间链式协调来劫持子任务规划。同时引入 PRISM 指标评估污染程度,并提出根查询锚定(RQA)作为轻量级防御。实验表明,该攻击能有效迁移污染内容,而 RQA 防御显著降低了污染率。
AI 推荐理由
论文核心研究针对深度研究代理的子任务规划层进行投毒攻击与防御,直接涉及规划机制。
研究机构
Fudan University
Huazhong University of Science and Technology
Explore Academy, JD
论文信息