摘要
本研究考察了单一通用大语言模型作为唯一研究者,在长期神经架构设计问题中的表现。Agent接收科学问题、初始假设及计算预算,利用工具自主提出、实施并评估实验。在约100次实验中,Agent将非标准Vision Transformer从弱基线优化为高效模型。研究发现生产力呈阶段性结构,早期假设贡献最大,且工作流设计对Agent性能影响显著。Agent不仅重发现已知结果,还在纯通道注意力领域颠覆了标准设计选择,证明了工作流设计的重要性。
AI 推荐理由
论文核心研究Agent在长周期任务中的自我改进、假设迭代与自适应能力,属于典型的自我进化范畴。
研究机构
University College Dublin, Ireland
论文信息