Multi-Agent Systems Failure Detection Safety Self-Diagnosis
摘要

将大语言模型编排为多智能体系统(LLM-MAS)虽解锁了卓越的推理能力,但涌现的故障和幻觉阻碍了其在安全关键领域的应用。现有评估范式存在集中式判断的缺陷。本文提出 POIROT 协议,复用系统内部智能体作为诊断层,利用架构中已有的认知多样性进行检测。实验表明,POIROT 在单 LLM 评估基线之上表现优异,且优势随问题复杂度、智能体数量及故障维度增加而扩大。结果证明,执行角色的智能体具备足够的集体智能来审计自身,无需外部监督。

AI 推荐理由

论文聚焦多智能体系统的故障检测与推理可靠性,利用集体智能进行诊断,紧密关联推理能力的评估与增强。

研究机构
Center for Automation and Robotics, Spanish National Research Council (CSIC-UPM), Madrid, Spain. ETSI Telecomunicación, Universidad Politécnica de Madrid (UPM), Madrid, Spain.
论文信息
作者 Iñaki Dellibarda Varela, R. Sendra-Arranz, Pablo Romero-Sorozabal, J. M. Valverde-García, Annemarie F. Laudanski et al.
发布日期 2026-06-01
arXiv ID 2606.02282
相关性评分 8/10 (高度相关)