摘要
大型语言模型驱动的具身智能体常因忽视与环境反馈相悖的关键信息而做出次优决策,这种现象被称为“信念惯性”。本文提出“主动信念干预”理念,引入估计 - 验证 - 更新(EVU)机制。该机制使智能体能预测预期结果,通过显式推理将预测与实际观察进行比对,并依据证据主动修正既有信念。EVU 作为一种统一的干预机制,可生成显式的文本信念状态,并适用于基于提示和基于训练的智能体推理方法。在三个具身基准测试上的实验表明,EVU 显著提升了任务成功率,有效缓解了信念惯性。
AI 推荐理由
提出 EVU 机制,通过显式推理验证并更新信念,核心解决推理中的信念惯性问题。
研究机构
香港理工大学计算机科学系
论文信息