摘要
尽管自我反思能提升语言模型可靠性,但其底层机制仍不透明。本文提出 ReBeCA 框架,通过将自我反思轨迹建模为因果图,利用不变因果预测(ICP)流程隔离性能的真实决定因素。研究发现:模型语义行为分层影响反思结果;仅少数行为具有泛化因果效应;看似积极的行为叠加反而可能削弱反思效能。该方法在跨任务及分布外数据中验证了稀疏因果父节点的稳定性,为区分真实因果机制与虚假关联提供了严谨方法论。
AI 推荐理由
论文核心研究自我反思的因果机制,直接关联 Agent 自我进化与改进能力。
研究机构
Monash University
Harbin Institute of Technology, Shenzhen
论文信息