摘要
大语言模型在推理任务中表现优异，但易受提示级对抗攻击影响，引发常识幻觉。针对现有方法效率低或缺乏自适应性的问题，本文提出一种受 A* 算法启发的事实错误诱导框架。该框架核心为分层重写策略，通过动态语义分散系数平衡编辑强度，并引入智能体机制标签以增强可解释性。理论证明提示重写遵循收缩递归导致语义坍塌。实验表明，该方法在多种模型上以更少尝试实现了更高的攻击成功率，兼具高效性与有效性。
AI 推荐理由
论文聚焦于诱导常识推理幻觉的攻击，核心涉及 LLM 的常识推理脆弱性评估。
研究机构
University of Liverpool
Merseyside, United Kingdom
论文信息