摘要
大型推理模型(LRMs)在多步推断中日益重要,但其面对不完整或逻辑不一致输入时易产生“过度思考”,导致冗余推理轨迹,引发资源耗尽型拒绝服务攻击。本文提出一种自动化黑盒框架,利用分层遗传算法系统扰动输入问题的逻辑结构,以最大化响应长度和反思标记。实验表明,该方法在四个先进模型上显著增加输出长度,数学基准测试中最高提升 26.1 倍,且具备强迁移性,揭示了现代推理系统的共性漏洞。
AI 推荐理由
论文核心研究大型推理模型的“过度思考”脆弱性,直接针对推理机制与逻辑结构进行攻击分析。
研究机构
Equal contribution
论文信息