Memory Safety Personalization Evaluation Framework Sensitive Data
摘要

长期记忆使语言模型代理能支持个性化交互,但何时应将可用记忆整合进回复尚不明确。现有评估侧重检索准确率,却忽视 retrieved 敏感内容在当前对话轮次中的必要性。本文提出 RBI-Eval,通过对比模型在有无敏感记忆访问下的行为,测量记忆集成边界。实验显示,记忆可用性显著影响敏感内容整合率,且检索系统虽减少暴露却无法完全消除生成阶段的整合。研究表明,安全的个性化需在检索和生成阶段均进行记忆感知决策。

AI 推荐理由

论文核心研究记忆增强代理中敏感记忆的集成边界与决策机制。

研究机构
合肥工业大学
论文信息
作者 Lingxiang Xu, Jiaoyun Yang, Min Hu, Hongtu Chen, Ning An
发布日期 2026-06-04
arXiv ID 2606.06055
相关性评分 9/10 (高度相关)