摘要
现有LLM道德评估多关注答案的可接受性,缺乏对冲突原则下优先级排序能力的考察。本文提出CORDA基准,基于“道德链”形式化方法,通过90个涉及电车难题、医疗权衡等场景的道德困境,测试模型在效用、双重过程等四种伦理框架下的层级推理表现。实验发现多数模型存在义务论默认倾向,更擅长遵循绝对禁令而非权衡后果,且难以稳定遵循指定的优先级顺序。该研究填补了LLM道德评估中关于可控性与冲突处理的空白。
AI 推荐理由
论文核心评估LLM在道德原则冲突下的层级推理能力,直接对应推理主题。
研究机构
University of the Witwatersrand, Johannesburg, South Africa
论文信息