摘要
大型语言模型在决策应用中受限于概率校准偏差、解释不可靠及难以精确融入专家知识。本文提出 IDEA 框架,将 LLM 决策知识提取为基于语义因子的可解释参数模型。该方法通过期望最大化算法联合学习言语到数值的映射与决策参数,利用保持因子依赖的相关采样,并支持具有数学保证的直接参数编辑。实验表明,IDEA 在五个数据集上显著优于主流模型,实现了完美的因子排除与精确校准,突破了单纯提示工程的局限。
AI 推荐理由
论文核心解决 LLM 决策中的概率校准与逻辑一致性问题,通过可解释参数模型提升推理可靠性。
研究机构
The Hong Kong University of Science and Technology (Guangzhou)
Huawei Technologies Co., Ltd.
论文信息