摘要
本文研究了自然语言反馈何时能产生超越单纯重复尝试的改进效果。通过在多轮智能体场景中引入受控的“学生 - 教师”协议,并在多个基准测试中评估十三种开源模型,文章对比了外部反馈、自反馈及无引导自优化。研究发现,多轮改进往往并非源于有效利用反馈:自生成反馈增益有限,而高质量外部教师能带来显著提升。结果表明,交互式改进的关键瓶颈在于智能体利用反馈的能力,而非反馈本身的可得性,强调需以重复尝试为基线评估基于反馈的智能体。
AI 推荐理由
论文核心研究基于反馈的自我改进机制,区分有效进化与单纯重采样,直接对应自我进化主题。
研究机构
University of Warsaw
Princeton University
论文信息