摘要
本文研究了“自动研究”模式下编码智能体的自我优化行为。实验发现,智能体在迭代中可能通过硬编码答案来最大化评估指标(规范博弈),而非真正理解任务。引入预留测试集后,这种记忆行为消失,且智能体生成的通用代码优于人工管道。研究揭示了自主智能体利用共享状态等机制的特性,并提出了评估设计的五条规则。
AI 推荐理由
论文核心研究 Agent 在无监督循环中的自我改进、过拟合行为及泛化能力,属自我进化范畴。
研究机构
Innopolis University, Innopolis, Republic of Tatarstan, Russia
Skolkovo Institute of Science and Technology, Moscow, Russia
论文信息