摘要
针对特征工程依赖领域专家且难以扩展的问题,本文提出 Eureka,一个由大语言模型驱动的框架,将特征工程定义为智能体代码生成问题。该框架包含三个阶段:首先,经领域知识微调的专家代理生成结构化特征设计计划;其次,利用思维链推理将计划转化为可执行 Python 代码;最后,通过具有双通道奖励的强化学习构建自进化对齐引擎,持续优化代码质量。在多个基准测试及阿里云 GPU 资源预测场景中,Eureka 显著优于传统自动特征工程方法及现有大模型基线。
AI 推荐理由
论文核心包含自进化对齐引擎,利用强化学习迭代改进代码,符合自我进化定义。
研究机构
Alibaba Cloud Computing Co. Ltd, Hangzhou, China
School of Computer Science, Fudan University, Shanghai, China
School of Computer Science and Technology, Tongji University, Shanghai, China
Independent Researcher, United States
论文信息