AIChilles：自动揭示 AI 进化系统中的隐藏弱点

近期，AI 驱动的系统进化（即智能体迭代重写系统）引起关注，现有框架虽显著提升性能，但存在 unseen 负载下性能回退的风险。本文提出 AIChilles，一种自动化机制，通过对比基线程序与 AI 进化程序，搜索在正确性、运行时、内存或输出质量上发生回退的有效负载。该方法结合确定性参数提取、基于智能体的约束推断及差异预言机，在五个系统应用中发现了 49 个独特弱点，并证明将其纳入开发流程可有效缓解这些问题。