privacy de-anonymization LLM agents inference security
摘要

本文研究了基于大语言模型(LLM)的代理自主重构真实世界身份的新隐私风险。传统匿名化依赖高昂的重识别成本,而 LLM 代理能结合稀疏线索与公开信息,无需特定工程即可实现身份解析。我们将此威胁形式化为“推理驱动链接”,并在经典场景、InferLink 基准及现代文本制品中进行系统评估。结果显示,代理在 Netflix 数据集中重构了 79.2% 的身份,显著优于经典基线。研究表明,身份推断已成为首要隐私风险,评估需关注代理的推断能力而非仅显式信息泄露。

AI 推荐理由

论文核心研究 LLM 代理的推理驱动去匿名化能力,评估其逻辑推断与身份重构机制。

研究机构
Virginia Tech Center for Advanced AI, Accenture
论文信息
作者 Myeongseob Ko, Jihyun Jeong, Sumiran Singh Thakur, Gyuhak Kim, Ruoxi Jia
发布日期 2026-03-19
arXiv ID 2603.18382
相关性评分 9/10 (高度相关)