道德推理 基准测试 大语言模型 伦理对齐
摘要

现有LLM道德评估多关注答案的可接受性,缺乏对冲突原则下优先级排序能力的考察。本文提出CORDA基准,基于“道德链”形式化方法,通过90个涉及电车难题、医疗权衡等场景的道德困境,测试模型在效用、双重过程等四种伦理框架下的层级推理表现。实验发现多数模型存在义务论默认倾向,更擅长遵循绝对禁令而非权衡后果,且难以稳定遵循指定的优先级顺序。该研究填补了LLM道德评估中关于可控性与冲突处理的空白。

AI 推荐理由

论文核心评估LLM在道德原则冲突下的层级推理能力,直接对应推理主题。

研究机构
University of the Witwatersrand, Johannesburg, South Africa
论文信息
作者 Siddarth Singh, Victoria Williams, Simon Rosen, Ebenezer Gelo, Helen Sarah Robertson et al.
发布日期 2026-08-08
arXiv ID 2608.08061
相关性评分 9/10 (高度相关)