摘要
大型语言模型在法律推理等高风险决策中应用日益广泛,但其对事实相同但表述不同的输入表现出显著的不一致性。本文提出 Fragile 基准,从价值倾向、时间切片和叙事生动性三个维度系统评估框架敏感性。实验发现简单提示干预无效甚至加剧问题。为此,作者提出 Valign 方法,通过在表示层锚定稳定价值先验、引导隐藏状态及投影去除敏感方向,有效减少决策翻转,证明需直接干预内部机制以提升推理鲁棒性。
AI 推荐理由
论文聚焦 LLM 在决策中的推理一致性,解决框架敏感性导致的逻辑不稳定问题。
研究机构
Chung-Ang University
论文信息