摘要
多模态大语言模型（MLLMs）虽擅长结构化推理，但在结构一致性上存在逻辑脆弱性，本文称之为“结构性认知过载”（SCO）。针对现有研究多关注像素级扰动的不足，作者提出 StructBreak 框架以量化 SCO。该框架揭示了一种新型高阶认知过载攻击范式，并在黑盒设置下验证了其有效性。实验表明，SCO 极易触发有毒生成，平均攻击成功率达 92%。通过注意力动态和潜在空间拓扑分析，研究阐明了 SCO 绕过安全过滤的机制，指出当前对齐范式难以应对复杂多模态推理时代的挑战。
AI 推荐理由
论文聚焦多模态模型的结构化推理缺陷及其引发的安全问题，核心在于推理机制的脆弱性。
研究机构
Key Laboratory of Trustworthy Distributed Computing and Service (MoE), Beijing University of Posts and Telecommunications
Institute of Computing Technology, Chinese Academy of Sciences
论文信息