Multi-Agent Systems AI Safety Dialogue Reasoning Hazard Identification
摘要

高危领域的操作安全需要可靠的危险识别。尽管大语言模型展现出潜力,但单次推断缺乏安全工程师所需的自我修正与情境细化能力。本文提出 HAZDIAL 框架,探究结构化多智能体多轮对话是否优于单次基线。研究系统比较了对抗辩论与建设性讨论两种模式,并提出基于算法的交互优化策略。通过在精选数据集上的评估,证实了对话驱动方法在提升危险分析质量方面的有效性,推动了多智能体推理与 AI 安全的交叉研究。

AI 推荐理由

论文核心在于通过多智能体对话机制提升推理质量,实现自我修正与情境细化。

研究机构
Oak Ridge National Laboratory Oak Ridge, Tennessee, USA
论文信息
作者 Sanjay Das, Ran Elgedawy, Ethan Seefried, Ryan Burchfield, Tirthankar Ghosal
发布日期 2026-06-02
arXiv ID 2606.03812
相关性评分 8/10 (高度相关)