摘要
赋予大语言模型（LLM）直接控制昂贵且不可逆的科学实验会导致不安全的探索和不稳定的性能，但完全摒弃其创造力则会牺牲优化潜力。本文提出 CARE，一种用于高通量实验优化的可审计控制器。该框架保留非 LLM 优化器作为默认路径，利用 LLM 修订挑战者排名策略。仅在选前证据支持变更时，公共证据干预门才授权选择挑战者，并记录审计日志。实验表明，在可审计控制器下扩展提议空间比直接选择实验更能实现可靠的 LLM 自我进化。
AI 推荐理由
论文核心研究 LLM 在审计控制下的自我进化机制，通过扩展提议空间提升可靠性。
研究机构
University of Macau
University of Toronto
UCLA
Harvard University
XtalPi
McGill University
论文信息