Multi-Agent Debate Reasoning Alignment Medical QA Consistency Illusion
摘要

医疗问答中的多智能体系统常将共识视为可靠性信号,但答案一致不代表推理对齐。本文提出跨智能体推理对齐(CARA)指标族,揭示“一致性幻觉”:辩论减少了表面矛盾却降低了推理链的语义相似性。为此,作者提出 grounded 辩论协议(GDP),通过提示工程要求智能体承诺具体事实并明确立场。实验表明,GDP 在不增加调用或修改架构的情况下,显著提升了推理对齐度,建议在安全关键领域将推理对齐作为审计指标。

AI 推荐理由

论文核心研究多智能体辩论中的推理对齐问题,提出度量与干预方法。

研究机构
Drexel University
论文信息
作者 Xiaoyang Wang, Christopher C. Yang
发布日期 2026-06-07
arXiv ID 2606.08457
相关性评分 9/10 (高度相关)