摘要
本文提出 TREX,一种自动化大型语言模型(LLM)全生命周期训练的多智能体系统。该系统通过协调“研究者”与“执行者”模块,无缝完成需求分析、文献调研、策略制定、数据准备及模型训练评估。其将多轮实验过程建模为搜索树,以高效规划探索路径、复用历史结果并提炼迭代洞察。通过在包含 10 项真实场景任务的 FT-Bench 基准测试,实验证明 TREX 能持续优化目标任务上的模型性能。
AI 推荐理由
论文核心在于利用多智能体系统自动化 LLM 微调与迭代优化,实现模型的自我改进。
研究机构
上海人工智能实验室
论文信息