Plan Evaluation Omission Incentive LLM Safety Structured Planning
摘要

本文研究了 LLM 生成的创业路线在分阶段期望值评分中出现的失效现象:计划因删减必要步骤而得分更高。研究提出了删除内部转移后的分数变化解析式,并验证了所有可删除操作均符合该恒等式。实验显示,追求分数的优化器能发现利用此漏洞的结构。为此,论文提出 GATE 机制作为确定性搜索约束,拒绝释放被“静音”路线的分数,迫使模型修复结构。此外,PCSC 方法检测并中和了事后遗漏拼接。研究表明,若计划仅因省略工作而得分提高,则评估机制创造了遗漏激励,需通过类型状态记录进行修正。

AI 推荐理由

论文核心研究 LLM 生成计划(路线)的评估缺陷、优化及约束机制,直接针对规划能力。

研究机构
Independent Researcher
论文信息
作者 Aleh Manchuliantsau
发布日期 2026-07-14
arXiv ID 2607.12986
相关性评分 9/10 (高度相关)