decision-making value-alignment robustness framing-effect
摘要

大型语言模型在法律推理等高风险决策中应用日益广泛,但其对事实相同但表述不同的输入表现出显著的不一致性。本文提出 Fragile 基准,从价值倾向、时间切片和叙事生动性三个维度系统评估框架敏感性。实验发现简单提示干预无效甚至加剧问题。为此,作者提出 Valign 方法,通过在表示层锚定稳定价值先验、引导隐藏状态及投影去除敏感方向,有效减少决策翻转,证明需直接干预内部机制以提升推理鲁棒性。

AI 推荐理由

论文聚焦 LLM 在决策中的推理一致性,解决框架敏感性导致的逻辑不稳定问题。

研究机构
Chung-Ang University
论文信息
作者 Seojin Hwang, Minju Kim, Junhyuk Choi, JeongHyun Park, Hwanhee Lee
发布日期 2026-05-27
arXiv ID 2605.28188
相关性评分 8/10 (高度相关)