decision-making calibration interpretability human-AI collaboration
摘要

大型语言模型在决策应用中受限于概率校准偏差、解释不可靠及难以精确融入专家知识。本文提出 IDEA 框架,将 LLM 决策知识提取为基于语义因子的可解释参数模型。该方法通过期望最大化算法联合学习言语到数值的映射与决策参数,利用保持因子依赖的相关采样,并支持具有数学保证的直接参数编辑。实验表明,IDEA 在五个数据集上显著优于主流模型,实现了完美的因子排除与精确校准,突破了单纯提示工程的局限。

AI 推荐理由

论文核心解决 LLM 决策中的概率校准与逻辑一致性问题,通过可解释参数模型提升推理可靠性。

研究机构
The Hong Kong University of Science and Technology (Guangzhou) Huawei Technologies Co., Ltd.
论文信息
作者 Yanji He, Yuxin Jiang, Yiwen Wu, Bo Huang, Jiaheng Wei et al.
发布日期 2026-04-14
arXiv ID 2604.12573
相关性评分 9/10 (高度相关)