摘要
针对大语言模型个性化中检索方法敏感及参数微调成本高的问题,本文提出 TAP-PER 框架。该方法受推荐系统启发,将用户建模分解为用户状态与查询条件组件,并引入时间信号捕捉兴趣演变。通过学习轻量级前缀嵌入编码用户偏好,取代显式提示构建和重型适配器。实验表明,TAP-PER 在多项任务上优于基线,且显著降低了每用户参数量,实现了高效可扩展的个性化。
AI 推荐理由
论文提出基于前缀的用户状态表示,本质是构建紧凑的长期用户记忆机制以替代传统检索。
研究机构
Microsoft
Shanghai International Studies University
论文信息