self-evaluation bias autonomous agents external verification agent loops
摘要

本文研究了长周期自主智能体在缺乏人工干预时,因自我评估偏差而将停滞误判为进步的“进步幻觉”现象。实验表明,当评估依据局限于内部转录时,即使最强判断器也无法准确识别真实进展,导致性能退化。研究发现,成功信号若位于工件之外,仅靠扩大判断器规模无效,必须引入具备真实世界访问权限的带外评估机制,方能确保智能体自我进化的有效性。

AI 推荐理由

论文核心研究 Agent 自我评估偏差导致的进化停滞,提出外部验证机制以保障自我改进有效性。

研究机构
AysncSite
论文信息
作者 Hyundoo Park, Byungho Choi
发布日期 2026-07-27
arXiv ID 2607.25152
相关性评分 9/10 (高度相关)