摘要
长期记忆使语言模型代理能支持个性化交互,但何时应将可用记忆整合进回复尚不明确。现有评估侧重检索准确率,却忽视 retrieved 敏感内容在当前对话轮次中的必要性。本文提出 RBI-Eval,通过对比模型在有无敏感记忆访问下的行为,测量记忆集成边界。实验显示,记忆可用性显著影响敏感内容整合率,且检索系统虽减少暴露却无法完全消除生成阶段的整合。研究表明,安全的个性化需在检索和生成阶段均进行记忆感知决策。
AI 推荐理由
论文核心研究记忆增强代理中敏感记忆的集成边界与决策机制。
研究机构
合肥工业大学
论文信息