跨异构任务的自进化大语言模型记忆提取

随着基于大语言模型的助手变得持久化和个性化，其必须从过往对话中提取并保留有用信息作为记忆。然而，值得记忆的信息类型随任务变化巨大。本文形式化了“异构记忆提取”任务，引入 BEHEMOTH 基准，涵盖 18 个数据集以评估下游效用。实证分析表明，静态提示无法通用于所有任务，且现有自进化框架在异构分布下表现退化。为此，提出 CluE，一种基于聚类的自进化策略，通过分组场景、独立分析及综合跨簇洞察来更新提取提示。实验显示 CluE 在异构任务上泛化能力显著，相对增益达 9.04%。