从基于大语言模型的任务机器人中提取训练对话数据

大语言模型（LLM）虽增强了任务型对话系统，但其作为软知识库压缩训练数据，引发了严重的隐私泄露风险，可能无意中记忆包含个人身份信息或完整事件的交易数据。本文填补了该领域空白，通过系统性量化研究，评估现有提取攻击的局限性，并提出针对 LLM 任务机器人的新型攻击技术，优化响应采样与成员推断。实验表明，该方法能高精度提取数千条对话状态标签。此外，文章深入分析了影响记忆的关键因素并探讨了缓解策略。