摘要
本文研究了作为工具使用智能体规划器的大语言模型在多轮执行中面临的动态可靠性风险。文章实证刻画了两种失效模式：安全漂移（安全意图随时间侵蚀导致违规操作）和操作性幻觉（因状态感知缺陷导致的重复工具调用死锁）。通过多场景评估量化了这些现象，归因于推理上下文与执行状态的解耦。作者提出了一种“动作感知监督层”，通过意图 - 动作一致性检查和运行时状态跟踪等机制，有效拦截违规行为，提升了负责任的智能体 AI 的可靠性。
AI 推荐理由
论文聚焦 LLM 作为规划器在多步执行中的失效模式及架构改进，核心涉及任务规划可靠性。
研究机构
1. Cardiff School of Technologies, Cardiff Metropolitan University, Cardiff, UK
2. School of Professional Studies, Clark University, Worcester, USA
Cardiff School of Technologies, Cardiff Metropolitan University, Cardiff, UK
2. Harvard Medical School, Harvard University, Boston, USA
论文信息