摘要
多智能体大语言模型架构日益依赖响应级聚合(如多数投票)以提升推理上限。然而,在开放环境中,智能体极易受到隐蔽的上下文污染(如定向提示注入)。本文揭示了当前系统的结构性漏洞:当受损智能体形成局部多数时,响应级聚合会失效。为此,我们提出了令牌级轮转协作机制,使智能体在共享自回归上下文中顺序交错生成。理论证明该方法将脆弱的线性投票转化为动态的非线性逻辑链,即使受损方占多数,诚实模型的修复力仍能主导输出。实验表明,该方法在多种推理基准上显著优于传统多数投票。
AI 推荐理由
论文核心解决多智能体推理中的共识陷阱,通过令牌级协作提升推理鲁棒性。
研究机构
卡内基梅隆大学
合作人工智能实验室(FOCAL)
阿德莱德大学
论文信息