摘要
本文研究了长周期自主智能体在缺乏人工干预时,因自我评估偏差而将停滞误判为进步的“进步幻觉”现象。实验表明,当评估依据局限于内部转录时,即使最强判断器也无法准确识别真实进展,导致性能退化。研究发现,成功信号若位于工件之外,仅靠扩大判断器规模无效,必须引入具备真实世界访问权限的带外评估机制,方能确保智能体自我进化的有效性。
AI 推荐理由
论文核心研究 Agent 自我评估偏差导致的进化停滞,提出外部验证机制以保障自我改进有效性。
研究机构
AysncSite
论文信息