摘要
主要大型语言模型提供商为保护知识产权,将逐步推理或思维链过程加密并返回给客户端。本研究识别出一种架构漏洞:这些加密块在不同会话、用户和模型间完全兼容且可互换。利用此兼容性,我们开发了一种可扩展的解密越狱方法,通过将强模型的加密推理迹注入弱模型,迫使其以明文输出。该漏洞导致四种攻击向量:绕过反蒸馏机制提取私有模型推理、大规模提取个人敏感信息、泄露隐藏的危险推理内容以及执行不可见的提示注入。最后提出了具体的密码学和系统级缓解措施。
AI 推荐理由
论文核心针对LLM的推理过程(Chain-of-Thought)进行安全分析与攻击,直接涉及推理机制的隐私与完整性。
研究机构
MATS Research
ELLIS Institute Tübingen
Max Planck Institute for Intelligent Systems
Tübingen AI Center
University of Tübingen
Snyk
AI Security Company
论文信息