security privacy chain-of-thought jailbreak
摘要

主要大型语言模型提供商为保护知识产权,将逐步推理或思维链过程加密并返回给客户端。本研究识别出一种架构漏洞:这些加密块在不同会话、用户和模型间完全兼容且可互换。利用此兼容性,我们开发了一种可扩展的解密越狱方法,通过将强模型的加密推理迹注入弱模型,迫使其以明文输出。该漏洞导致四种攻击向量:绕过反蒸馏机制提取私有模型推理、大规模提取个人敏感信息、泄露隐藏的危险推理内容以及执行不可见的提示注入。最后提出了具体的密码学和系统级缓解措施。

AI 推荐理由

论文核心针对LLM的推理过程(Chain-of-Thought)进行安全分析与攻击,直接涉及推理机制的隐私与完整性。

研究机构
MATS Research ELLIS Institute Tübingen Max Planck Institute for Intelligent Systems Tübingen AI Center University of Tübingen Snyk AI Security Company
论文信息
作者 Alexander Panfilov, David Schmotz, Ilia Shumailov, Luca Beurer-Kellner, Joachim Schaeffer et al.
发布日期 2026-08-10
arXiv ID 2608.09867
相关性评分 9/10 (高度相关)